Почему два промпта про одно дают разные результаты без видимых причин
Модели работают стохастически: каждый токен выбирается с вероятностью, а не детерминировано. Два одинаковых по смыслу запроса могут выбрать разные пути в пространстве возможных ответов.
Кроме того, порядок слов в запросе влияет на внутреннее представление и внимание модели. Фраза «объясни концепцию X через аналогию» даст другой результат, чем «через аналогию объясни концепцию X», хотя смысл идентичен.
Как избежать разброса
Если нужна стабильность, стоит установить температуру на 0 или близкую к нулю — тогда модель будет выбирать наиболее вероятный токен, минимизируя вариативность.
Правка формулировки вроде замены синонима, переставки придаточного предложения или уточнения может существенно сместить результат. Это нормально и не означает, что модель сломалась.
Поэтому при работе с критичными задачами полезно проверить вариативность: несколько раз отправить один запрос и убедиться, что ответы близки по сути, иначе нужно уточнять формулировку.