Большой контекст иногда усложняет ответ: знак разорвать диалог
Длинный диалог нарушает концентрацию модели. Когда диалог длится долго, история вопросов и ответов растёт, и модель всё чаще путает, что было вчера, что сегодня, и что актуально прямо сейчас. Вместо того, чтобы ответить на прямой вопрос, она вспоминает деталь из середины разговора.
Это особенно видно в смешанных разговорах: обсудили одну задачу, перешли на другую, потом вернулись. Модель может запутаться в последовательности и применить решение от первой задачи ко второй.
Симптомы, что пора начать новый диалог
Если ответы начали противоречить друг другу, если модель забыла определения, которые вы дали в начале, если она цепляется за не относящиеся к делу детали — это признаки того, что контекст стал помехой, а не помощью.
Новый диалог уменьшает шум и даёт модели чистую площадку. Это не всегда удобно для пользователя, но часто улучшает качество. Практики рекомендуют разрывать контекст после 20–30 обменов на сложных задачах.
Кэши некоторых провайдеров позволяют сохранить часть истории между диалогами. Это лучше всего — свежий старт, но с памятью о главном.