Компания Mistral выпустила модель мощнее Claude за счёт новой архитектуры

Mistral выпустила обновленную версию своей флагманской модели, которая показывает улучшенную производительность в различных бенчмарках по сравнению с Claude и другими конкурентами. Повышение эффективности достигнуто благодаря пересмотру архитектуры трансформера и оптимизации алгоритма внимания.

Новая модель демонстрирует лучшие результаты при работе с длинными контекстами и специализированными задачами, включая логический вывод и кодирование. При этом она сохраняет компактность, что позволяет развёртывать её на более доступных вычислительных ресурсах.

Конкурентные преимущества архитектуры

Mistral утверждает, что переработка основана на новых подходах к вычислению скалярных произведений и распределению вычислительной нагрузки между слоями. Архитектура также улучшает энергоэффективность, что важно для масштабных развертываний.

Модель доступна через API Mistral и может быть развёрнута локально, что привлекает организации, заинтересованные в независимости от облачной инфраструктуры. Компания ориентирует её как на исследователей, так и на коммерческие приложения.

Выпуск расширяет конкуренцию в сегменте моделей высокой производительности и подтверждает, что технологический прогресс в ИИ остаётся актуальным для компаний вне американского технологического истеблишмента.