Graphcore разработал чип специально для ускорения diffusion моделей
Компания Graphcore анонсировала разработку нового процессорного ускорителя, спроектированного под архитектурные особенности диффузионных моделей. Чип оптимизирован для массивно-параллельных вычислений, характерных для работы с временными шагами в диффузионном процессе.
Архитектура чипа использует технику интеллектуального кэширования промежуточных результатов и оптимизирует трафик между памятью и вычислительными ядрами. Это позволяет значительно снизить энергопотребление по сравнению с универсальными GPU при решении узкопрофильной задачи.
Производительность и энергоэффективность
По данным Graphcore, новый ускоритель показывает двукратное ускорение генерации видео на диффузионных моделях по сравнению с эквивалентной конфигурацией на GPU. Энергопотребление при этом снижается на 40 процентов.
Чип поддерживает условное управление через встроенные операции внимания с низкой задержкой, что критично для применения в production-системах. Graphcore уже проводит испытания с партнёрскими компаниями в области синтеза видео и 3D-контента.
Первые образцы ускорителя поступят в продажу на рынке профессионального оборудования в начале 2027 года. Стоимость пока не объявлена, но компания позиционирует решение как конкурентное альтернативе готовым облачным сервисам при массовом использовании.