Стартапы ставят ставку на микро-моделизацию вместо масштабирования

Тренд смещается в сторону микро-моделей — компактных ИИ-систем, обученных на узком наборе данных для решения одной или нескольких связанных задач. Этот подход требует в 10-100 раз меньше вычислительных ресурсов, чем создание универсальной большой модели.

Стартапы обнаружили, что специализированная модель часто работает точнее универсальной при меньшем объёме данных. Экономия проявляется не только на этапе разработки, но и при развёртывании и обслуживании систем.

От размера к компетентности

Компании сосредотачиваются на качестве обучающих данных вместо их количества. Применяются техники дистилляции знаний, когда большую модель «спрессовывают» в маленькую, сохраняя производительность.

Венчурные инвесторы всё активнее финансируют проекты микро-моделей, видя в них практичную альтернативу гонке вооружений. По данным аналитиков, финансирование таких стартапов выросло на 45 процентов за год.

Такой подход открывает путь разработчикам из стран с ограниченным доступом к ресурсам и позволяет быстрее вывести специализированное решение на рынок.