Как предупредить галлюцинацию, не называя её в промпте напрямую

23 октября 2026

Прямое предупреждение типа «не галлюцинируй» или «не выдумывай информацию» неэффективно, потому что модель не понимает этот механизм своей работы. Куда эффективнее использовать косвенные инструкции: требовать указать источник информации, просить сказать «я не знаю» для пропущенных данных или явно перечислить, какие источники недоступны.

Когда вы пишете «проверь, есть ли в твоих данных информация о X, и если нет — скажи об этом», модель чаще останавливается и признаёт пробел вместо того, чтобы заполнить его предположением. Это работает, потому что модель реагирует на явные инструкции, а не на абстрактные требования честности.

Конкретные техники

Техника с источником: попросите модель каждый факт сопровождать ссылкой на источник или указанием, из какого поля обучения эта информация взята. Если источника нет, модель часто пересмотрит ответ. Техника с пробелом: явно укажите, какие данные вам неизвестны и какие требуют проверки. Модель будет понимать, что там где вы указали пробел, нельзя делать предположения.

Если работаете с историческими или быстро меняющимися данными, прямо указывайте дату актуальности данных в промпте и просите учитывать это. Модель должна понимать границы своего знания. Запрос типа «Данные актуальны на [дату], всё что было после — неизвестно» значительно снижает риск выдуманных фактов.

Самый надёжный подход — не полагаться на модель как единственный источник информации критически важных данных. Даже при идеальном промпте модель может ошибиться. Используйте её как помощника в анализе, а не как авторитет в фактических утверждениях.