Числа в контексте: помогают ли точные цифры или создают ложную уверенность

Модель лучше справляется с количественными задачами, когда видит примеры с цифрами. Однако это может создать иллюзию точности: модель учится выдавать ответы в численном диапазоне примеров, но логика её рассуждений может быть внутренне несогласованной.

Если вы говорите «модель обрабатывает контекст до 128 тысяч токенов», модель уверенно оперирует этой цифрой и строит ответ вокруг неё. Но если цифра не совсем точна или контекст другой, модель воспроизведёт ошибку с высокой уверенностью.

Практический подход к числам

Давайте конкретные цифры, только если они критичны для задачи и вы их проверили. Для приблизительных оценок лучше использовать диапазоны: «около 100-150 символов» вместо точного числа создаёт правильную неуверенность в модели.

При работе с финансовыми данными, техническими спецификациями или научными вычислениями точные цифры необходимы, но проверка результата становится обязательна, потому что модель склонна к галлюцинациям даже в числовых ответах.

Вывод: числа помогают только если они логически встроены в задачу, а не просто заполняют места в тексте. Ложная точность опаснее отсутствия цифр.