AI-ассистент — это не чат. Это рабочий процесс
Как бизнесу думать об AI-внедрении: не промпты ради промптов, а повторяемый процесс с входами, проверками и метриками качества.
Метрики моделей, оценка ассистентов и то, что происходит после запуска: дрейф, утечка признаков, откат на предыдущую версию.
Три материала, которые задают базу для остальных.
7 материалов
Как бизнесу думать об AI-внедрении: не промпты ради промптов, а повторяемый процесс с входами, проверками и метриками качества.
Разбираем precision, recall, F1, ROC-AUC и PR-AUC на одной задаче: как цена ошибки, дисбаланс классов и порог решения меняют вывод о качестве модели.
Практический гайд по оценке RAG-системы: отдельно проверяем retrieval и генерацию, собираем тестовый набор, считаем groundedness и не путаем красивый ответ с полезным.

RAG ищет фрагменты в документах и передаёт их модели вместе с вопросом. Разбираем путь ответа, пример со словарём метрик, ошибки и границу с SQL.

LLM — большая языковая модель, которая строит ответ из токенов. Объясняем контекст, температуру и границы расчётов на реальном примере аналитика.

ИИ-агент выбирает действия, вызывает инструменты и проверяет результат. Разбираем аналитику с агентом, права на чтение, журнал запросов и границы доверия.
Модель с ROC-AUC 0,94 на валидации даёт 0,68 в проде. Как найти утечку признаков по времени их доступности и как поймать дрейф данных и концепта по PSI, качеству и сегментам.