Редактура моделью не видит ошибку, встроенную в правильный смысл
Когда человек читает текст с ошибкой, мозг исправляет её на лету, если смысл предложения ясен. Языковые модели работают примерно так же: при анализе текста они воспринимают намеренное значение, а не буквальное написание. Это становится проблемой, когда нейросеть просят отредактировать документ.
Модель начинает с того, что переписывает предложение, как его поняла. Если исходный текст содержал опечатку, которая не помешала пониманию, нейросеть не отметит её как ошибку, а просто переведёт фразу в правильное написание — без указания на то, что была ошибка. Человек, ожидавший список ошибок, не узнает, что текст был испорчен.
Почему это важнее, чем кажется
В рабочих сценариях это означает, что полностью доверить редактуре нельзя. Когда нужно зафиксировать факт ошибки, например в рецензии или аудите качества, модель просто переделает текст и скроет проблему.
Попытка попросить модель найти ошибку более явно тоже работает плохо. Если фраза имеет ясный смысл, модель скажет, что ошибки нет. Преодолеть встроенное исправление получается только если заранее знать, где искать, что превращает автоматизацию в проверку вручную.
Результат: организации начинают применять редактуру моделью только на черновиках, где ошибки допустимы, или комбинируют её с инструментами, которые ловят опечатки по словарю, не пытаясь понять смысл.