Акценты в тексте промпта: где модель их видит, а где пропускает

Информация в начале и конце промпта получает больший вес в обработке текста модели. Это следует из структуры внимания трансформеров: токены в начале и конце последовательности имеют более высокий вес при формировании ответа. Поэтому критические инструкции нужно помещать в начало или финальный абзац промпта, а не в середину.

Практический эффект заметен при работе с длинными промптами. Если поместить главное требование в третий абзац из пяти, оно часто игнорируется или выполняется поверхностно. То же требование в первом абзаце исполняется в 80–90% случаев. Промежуточные инструкции нужно повторять или выделять явно.

Способы усиления акцентов

Работает повторение ключевых требований дважды — в начале и конце промпта. Не нужно дословное совпадение; перефразировка даже лучше. Пример: начать с «Ответь в трёх абзацах», а закончить «Помни: ровно три абзаца, не больше».

Использование заглавных букв или спецсимволов типа стрелок и звёздочек привлекает внимание модели к важным местам, но меньше, чем размещение в начале. Это вспомогательный способ, работающий лучше в комбинации с повторением.

Тестировать этот эффект просто: написать промпт с ключевым требованием в середине, затем переместить его в начало и сравнить результаты на одних и тех же примерах. Обычно видна чёткая разница в соблюдении инструкции.