Параметр температуры: когда менять, когда оставить
Низкая температура (0.2–0.5) заставляет модель выбирать наиболее вероятные слова, что даёт стабильные, консервативные ответы. Это подходит для фактических вопросов, расчётов, кодирования и всего, где нужна точность. Высокая температура (0.8–1.0) добавляет разнообразие и творчество, что нужно для сочинения, брейнштормов и поиска альтернатив.
Но это не универсальное правило. Иногда даже для творческой задачи низкая температура даёт лучше результат, если модель уже хорошо обучена выполнять эту задачу. Например, написание промпта часто лучше получается при температуре 0.3–0.5, а не 1.0, потому что модель уже знает эффективные структуры промптов.
Как выбрать значение
Начните с температуры 0.7 как универсальной. Если ответы звучат скучновато или слишком шаблонно, повысьте до 0.85. Если ответы содержат фактические ошибки или отклоняются от задачи, понизьте до 0.5 или даже 0.3.
Для задач, где нужна стабильность (резюме, перепись текста, ответы на вопросы о фактах), установите 0.2–0.4. Для задач, где нужна вариативность (идеи, варианты формулировок, ассоциации), используйте 0.8–1.0.
Температуру имеет смысл менять редко. Один раз подобрали для своего типа работы и оставили. Пересчитывать её для каждого промпта — потеря времени. Исключение: если вы сравниваете разные модели или пытаетесь отладить конкретный баг в ответе.