Открытые модели перестали быть альтернативой закрытым

Несколько лет назад открытые модели позиционировались как более дешёвая альтернатива, когда качество было допустимым. Сейчас картина изменилась: версии меньше 20 млрд параметров на конкретных задачах дают результаты, неотличимые от коммерческих предложений.

Это не значит, что закрытые модели бесполезны. Они остаются быстрее и универсальнее. Но выбор между ними и открытыми теперь зависит не от качества, а от экономики: сколько стоит один запрос, как часто нужно дообучить и где можно запустить.

Парадокс выбора

Парадокс в том, что открытые модели вышли в лидеры не через научный прорыв, а через масштабирование мелочей: лучше отобрали данные для обучения, точнее настроили гиперпараметры, добавили инструменты в промпт.

Компании, которые раньше боялись поставить открытую модель в продакшен, теперь ищут причины, почему бы не поставить. Единственная причина, которая остаётся в силе, — когда задача совсем новая и требует творчества, а не репродукции.

Переключение произойдёт не сразу, но логика экономики неумолима. Когда открытая модель дёшева в два раза и почти неотличима по качеству, выбор становится очевидным.