Компании теряют данные при автоматическом извлечении из старых документов
Банки, юридические конторы и госучреждения, инвестировавшие в автоматическую обработку многолетних архивов посредством ChatGPT-5, столкнулись с неожиданной проблемой: модель часто не замечает фрагменты текста, которые человек определил бы как важные, и пропускает их в итоговом документе. Особенно велик риск при работе с факсимилями, рукописными пометками и документами на нескольких языках.
Проверки показали, что даже при использовании предварительного OCR потери информации достигали 8–12% в сложных архивах. Некоторые компании обнаружили расхождения только при повторной выборочной проверке, когда данные уже частично загружены в хранилища.
Методологический срыв
Проблема усугубляется тем, что нейросеть работает вероятностно и может по-разному интерпретировать один и тот же исходный текст при повторных прогонах. Для критичных данных это неприемлемо, но многие компании игнорировали этот риск на этапе планирования проекта.
Лучшей практикой сейчас считается двухуровневая обработка: автоматическое извлечение с пометкой областей высокой неуверенности, затем точечная ручная проверка конфликтующих фрагментов. Однако такой подход почти не экономит время против полностью ручного процесса.
Регуляторы начинают требовать от компаний полной документации методологии при использовании ИИ для обработки критичных данных, что замораживает развёртывание технологии в банковском и госсекторе.