Перевод длинного документа теряет единство стиля между фрагментами

Длинные документы часто не помещаются в контекстное окно целиком, поэтому их режут на части. Каждая часть проходит через нейросеть отдельно, и модель каждый раз заново принимает решение, как перевести одно и то же слово или выражение.

Один термин может быть переведён как «услуга» в начале документа, как «сервис» в середине и как «предоставляемая функция» в конце. Терминология рассыпается не потому, что модель не умеет переводить, а потому, что у неё нет памяти о переводах в предыдущих фрагментах.

Способы держать словарь в узде

Организации начали прикреплять к каждому фрагменту словарь: «везде используй слово Х для обозначения Y». Это помогает, но усложняет инструкцию и увеличивает размер запроса. Другой подход — перевести один раз с максимально длинным контекстом, который можно втиснуть, а потом пересчитать на лету, что бывает медленнее.

Есть и третий путь: предварительный проход, где модель строит словарь терминов для документа, а потом второй проход переводит с закреплённым словарём. Это дороговато по токенам, но гарантирует единство.

Суть в том, что размер контекстного окна не отменил нужности планирования. Даже если окно огромное, при переводе практической длины текста нужно всё ещё помнить, что хорошие результаты требуют предварительной работы.