Техника few-shot в боевой практике: учим модель примерами, а не инструкциями
Few-shot — это подход, когда в промпт добавляют несколько готовых примеров вход-выход, и модель учится воспроизводить их стиль и логику. Вместо того чтобы описывать правила классификации текста или формат ответа, достаточно показать два-три готовых результата.
На практике few-shot часто срабатывает надежнее, чем развернутые инструкции. Модель видит конкретный паттерн и лучше его копирует, чем разбирает абстрактное объяснение. Особенно это заметно при нетривиальных форматах вывода или когда нужно уловить тонкость стиля.
Когда few-shot оправдан
Техника полезна для классификации, генерации текста в специфическом стиле, извлечения данных по нестандартному паттерну. Если модель часто ошибается в интерпретации инструкций, несколько примеров обычно исправляют ситуацию быстрее, чем переписывание промпта.
Минус в том, что few-shot удлиняет контекст и может замедлить работу. На публичных API это означает более высокую стоимость запроса. Поэтому имеет смысл сначала попробовать простую инструкцию, а few-shot использовать, когда качество недостаточное.
На больших объемах данных few-shot часто становится элементом pipeline'а, где примеры подбирают программно в зависимости от входа. Это сложнее, чем статичный промпт, но результат стабильнее.