Дообучение модели: когда компании это действительно нужно
Дообучение — это дополнительная тренировка готовой модели на собственных примерах, чтобы она усвоила стиль, формат и манеру ответов компании. Важное уточнение: оно меняет поведение модели, а не снабжает её свежими фактами — для фактов используют поиск по документам.
Как это устроено
Разница между тремя подходами. Промпт — объясняем задачу словами в каждом запросе. База знаний с поиском — подкладываем актуальные документы. Дообучение — заранее показываем сотни примеров «вот так правильно», чтобы модель отвечала нужным образом без длинных инструкций.
Цена вопроса: нужны размеченные примеры, вычисления, проверка качества и повторное обучение при изменениях. Для типовых задач компании это почти всегда избыточно.
Где это встречается в компании
Дообучение оправдано там, где есть жёсткий формат и большой поток однотипных задач: разметка обращений по категориям, приведение текстов к строгому стандарту, отраслевая терминология, которую не объяснить промптом.
Во всех остальных случаях сначала отрабатываются промпты и база знаний — они дают основную часть эффекта без затрат на обучение.
Что дальше
Соседние термины: ии-агент, промпт. Полный список — в словаре.
Частые вопросы
Можно ли дообучить модель на наших договорах?
Технически да, но для работы с договорами обычно правильнее поиск по документам: он актуален и позволяет сослаться на источник.
Сколько нужно примеров?
От нескольких сотен для узкой задачи. Качество примеров важнее количества.
Данные остаются у нас?
Зависит от площадки. Этот вопрос решается до старта и фиксируется договором.
Аудит процессов, практикум с командой на её данных, регламенты. От 10 до 30 участников.
Обсудить задачи компании →