Исследование показало корреляцию между размером модели и энергопотреблением
Независимое исследование, проведённое консорциумом университетов, документировало прямую корреляцию между размером нейросети и её энергопотреблением при обучении и инференсе. Модели с триллионами параметров требуют пропорционально больше электроэнергии для работы.
Результаты показали, что удвоение количества параметров сопровождается значительным ростом потребления энергии на операцию. Эффект сильнее выражен на этапе обучения моделей, нежели при выполнении запросов.
Вызовы масштабирования
Полученные данные поднимают вопросы об экологичности дальнейшего расширения моделей и экономической целесообразности инвестиций в масштабирование. Исследователи предлагают сосредоточиться на оптимизации алгоритмов вместо простого увеличения размера сети.
Производители ИИ-чипов реагируют разработкой более энергоэффективной архитектуры и специализированных ускорителей. Снижение энергозатрат становится конкурентным преимуществом на рынке облачных вычислений.
Промышленность рассматривает энергоэффективность как ключевой метрику развития моделей в ближайшую пятилетку.