Как сформулировать запрос, чтобы модель признала нехватку данных
Запрос по умолчанию читается как требование дать ответ. Если сведений не хватает, наиболее вероятным продолжением всё равно оказывается связный текст, и пробел заполняется правдоподобной конструкцией, внешне неотличимой от знания.
Отсюда приём давать явное разрешение на отказ. Строка о том, что ответ «данных недостаточно» считается корректным и предпочтительным при сомнении, меняет поведение заметно чаще, чем требование не выдумывать.
Разделять уровни уверенности
Второй приём — попросить помечать утверждения по источнику: что взято из переданных материалов, что относится к общеизвестному, а что является предположением. Такая разметка не делает ответ точнее сама по себе, но показывает, какие места надо проверять.
Полезно ограничить и форму: запрет на конкретные числа и даты, если они не встречались во входных данных, снимает самый опасный класс выдумок, потому что именно цифры выглядят убедительнее всего.
Ни один из приёмов не заменяет проверки, но вместе они меняют характер ошибки — вместо незаметного вымысла в тексте появляется явно обозначенный пробел, с которым можно работать.
Что это значит
Подробности и первичное описание опубликованы на странице словарь световых терминов для промптов, там же собраны условия доступа и ограничения, о которых заявили разработчики.
Похожие материалы и обновления по теме мы собираем в разделе Промпты и приёмы работы с ИИ — он пополняется по мере выхода новых сообщений.