Галюцинации в ответах удалось почти полностью исключить новой методикой
Проблема галюцинаций — когда модель генерирует достоверно звучащую, но ложную информацию — остаётся одним из ключевых вызовов в развитии больших языковых моделей. Новый подход, предложенный научной группой, использует многоуровневую проверку выходных данных против источников знаний в реальном времени.
Методика показала результаты на стандартных бенчмарках: количество галюцинаций сократилось на 94% при сохранении качества обобщённых ответов. Подход применим как к существующим моделям, так и к новым архитектурам.
Практическое применение
Разработчики отмечают, что технику можно интегрировать в инференс-трубопровод без переобучения моделей. Это особенно важно для систем, работающих с критичными данными — медицинской информацией, юридическими консультациями и финансовыми прогнозами.
Проверка добавляет задержку около 200 миллисекунд на запрос, что укладывается в приемлемый диапазон для большинства применений. Исследование доступно в предпринте и ожидает рецензирования сообществом.
Ожидается, что метод станет стандартом для производственных систем, требующих высокой надёжности вывода.