Альтернатива ChatGPT-5 от Anthropic улучшила скорость обработки текста на 60 процентов
Anthropic объявила об улучшении скорости обработки текста в своей альтернативе ChatGPT-5 на 60 процентов. Оптимизация коснулась как инференса, так и этапа обучения модели, что позволило снизить задержки при работе с большими объёмами данных.
Повышение производительности достигнуто за счёт оптимизации архитектуры трансформера и более эффективного распределения вычислительной нагрузки между вычислительными узлами. Компания подтвердила, что качество выходных данных при этом не снизилось.
Практическое применение
Увеличение скорости обработки позволяет сократить время отклика при работе с запросами в реальном времени и снизить операционные расходы на содержание инфраструктуры. Особенно это актуально для приложений, требующих обработки потоковых данных или работы с большими документами.
Обновление доступно как для облачной платформы Anthropic, так и для корпоративных развёртываний. Компания ожидает, что эти изменения повысят конкурентоспособность её решений на рынке моделей больших языков.
По словам Anthropic, работа над оптимизацией производительности продолжится, и в ближайших версиях следует ожидать дополнительных улучшений.