Together AI открыл API для дешевой генерации через распределённые серверы
Стартап Together AI запустил открытый API, который позволяет разработчикам использовать распределённую сеть серверов для генерации изображений по значительно более низким ценам, чем у централизованных провайдеров. Архитектура основана на привлечении вычислительных ресурсов от независимых операторов.
Система поддерживает несколько популярных моделей, включая варианты Stable Diffusion и открытые модели других разработчиков. Качество вывода остается на уровне традиционных сервисов, при этом стоимость запроса упала на 40-60 процентов.
Модель стимулирования и надёжность
Together AI использует токены-стимулы для привлечения владельцев вычислительных мощностей, создавая экономику сети, где участники получают вознаграждение за предоставленные ресурсы. Это позволяет удерживать цены низкими без снижения качества сервиса.
Платформа гарантирует отказоустойчивость за счёт избыточности — если один узел сети выходит из строя, запрос автоматически перенаправляется на другой. Согласно испытаниям, время ответа соответствует или превышает показатели конкурентов.
Платёжная система гибкая: разработчики могут начать с микротранзакций и постепенно масштабировать использование.