Конкурент ChatGPT запустил агента с локальным выполнением
На рынке появился сервис, позиционирующий локальное выполнение как ключевое преимущество. Агент загружается на компьютер или сервер пользователя и выполняет задачи полностью offline, обращаясь в облако только для особо сложных операций или для обновления модели.
Такой подход решает проблемы конфиденциальности и скорости. Данные клиента не отправляются на удалённые серверы, а задачи выполняются с минимальной задержкой. Компании с высокими требованиями к безопасности получают долгожданную альтернативу.
Вызовы и конкуренция
Недостаток модели — большой размер модели и требования к вычислительным ресурсам. На мобильных устройствах локальный агент работает с ограничениями, а обновления становятся более сложными в управлении.
ChatGPT и его аналоги пока сохраняют преимущество в качестве благодаря облачным вычислениям и большим моделям. Однако локальное выполнение привлекает нишевых клиентов, готовых жертвовать качеством ради приватности.
Ближайшие месяцы покажут, сможет ли локальный подход масштабироваться и найти ёмкий рынок.