Как написать ограничение, которое модель не обойдёт в ответе
Модели нередко игнорируют или обходят ограничения, сформулированные как предложения. Фраза «Пожалуйста, не используй сложные слова» часто остаётся без внимания, а модель продолжает писать технический язык. Жёсткая формулировка работает эффективнее: «Запрещено использовать слова, которые знают меньше половины читателей».
Ключевой момент — конкретность. Вместо «Будь кратче» пишите «Максимум три предложения на абзац». Вместо «Избегай лишних деталей» скажите «Не упоминай внутреннее устройство алгоритма». Модель лучше следует числовым и точным ограничениям, чем расплывчатым просьбам.
Техники, которые работают
Первая техника — повтор ограничения в начале и в конце промпта. Вторая — встраивание ограничения в описание формата ответа: «Ответ: одна строка, без точек в конце». Третья — указание последствий: «Если ты нарушишь это ограничение, ответ не будет использован».
Тестируйте ограничения на сложных примерах. Если модель обходит запрет на одном примере, переформулируйте его — может быть, она интерпретирует его иначе. Чем чаще вы тестируете, тем точнее становятся ваши ограничения.
Жёсткие запреты работают на 85–90 % задач. Оставшиеся 10–15 % требуют либо более хитрого описания ограничения, либо разбора ответа с фильтрацией на выходе.