Что класть в контекст запроса, а что только мешает ответу
Совет добавлять больше контекста понимают буквально и вываливают в запрос всё, что относится к теме. Ответ при этом нередко становится хуже: модель начинает отвечать на фон, а не на поставленный вопрос.
Отбор проще вести от результата. В контекст попадает то, без чего конкретное решение изменилось бы: ограничения, данные, договорённости о терминах. История вопроса, предыстория проекта и объяснение мотивов обычно не меняют ничего.
Разделять данные и инструкции
Отдельный приём — визуально отделять переданные материалы от указаний. Когда текст документа и требования к его обработке идут сплошняком, фразы из документа иногда воспринимаются как часть задачи. Явная граница с подписью снимает эту путаницу почти полностью.
На длинных материалах помогает повторение задачи после данных. Короткая строка с напоминанием, что именно требуется сделать, поставленная в самом конце, заметно снижает вероятность ответа не по адресу.
Проверка на избыточность делается вычёркиванием: если удаление фрагмента контекста не меняет ответ на нескольких прогонах, фрагмент можно убрать насовсем.
Что это значит
Подробности и первичное описание опубликованы на странице «как работают модели генерации на Freepik», там же собраны условия доступа и ограничения, о которых заявили разработчики.
Похожие материалы и обновления по теме мы собираем в разделе Новости искусственного интеллекта — он пополняется по мере выхода новых сообщений.