DeepSeek открыла веса энергоэффективной модели для мобильных
DeepSeek, китайский стартап, специализирующийся на эффективных моделях, открыла веса энергоэффективной серии моделей. Самая лёгкая версия весит менее одного гигабайта и работает на мобильных процессорах без значительной потери качества. Архитектура использует техники группировки головок внимания (GQA) и другие оптимизации, чтобы снизить потребление памяти и вычислительных ресурсов.
Значимость этого релиза в том, что до сих пор лучшие мобильные LLM были либо закрытыми (Apple Neural Engine), либо требовали существенной доработки от сообщества. DeepSeek выложила готовое решение с полной документацией и примерами. Модель работает на всех основных платформах: Android, iOS через специализированные runtime, а также на embedded Linux.
Энергоэффективность на практике
Инфернес мобильной модели DeepSeek потребляет в 5–10 раз меньше батареи, чем запрос на облачный сервер. Пользователь может получить ответ за секунды прямо на устройстве без интернета. Это особенно полезно в странах с нестабильной сетью или в приложениях, где приватность критична.
Другие компании заметили спрос: Alibaba, Tencent и независимые разработчики начали выпускать свои лёгкие модели. Рынок мобильных LLM быстро развивается, и стандарты на эффективность меняются в сторону меньших весов без потери функциональности.
DeepSeek показала, что высокое качество и энергоэффективность совместимы. Её подход к дистилляции и оптимизации архитектуры становится мерилом для индустрии, и другие лаборатории уже адаптируют эти техники для своих моделей.