Как написать промпт для анализа текста, чтобы модель не галлюцинировала

Галлюцинации в анализе текста возникают, когда модель пытается заполнить пробелы в информации и выдаёт вероятное, но не поддтвержденное содержимое. Чтобы этого избежать, нужно явно сказать: если информации нет в тексте, не выдумывай, скажи, что данные отсутствуют. Фраза типа «только информация из текста, без предположений» резко снижает риск.

Второй уровень защиты — требование цитирования. Вместо «назови главные моменты» спросить: «назови главные моменты и приведи прямые цитаты из текста в подтверждение». Если модель не может найти цитату, она не будет выдумывать момент.

Структура безопасного промпта

Структура эффективного промпта: ясное разделение между исходным текстом и инструкцией (часто помогает маркер типа «---ТЕКСТ---» и «---АНАЛИЗ---»), затем сам текст в отдельном блоке, затем инструкция с явным запретом: «не добавляй информацию за границами текста».

Для особо критичных случаев добавить инструкцию: «Если утверждение в тексте неясно или неполно, напиши: 'информация отсутствует', вместо того чтобы угадывать». Это работает лучше, чем просто просьба быть аккуратнее.

Температуру для анализа выставить на 0, чтобы модель не добавляла творчества. Проверить результаты вручную на первых порциях текстов — это быстро покажет, если промпт всё ещё даёт галлюцинации, и можно сразу подстроить инструкцию.