Google представила SDK для оркестрации вызовов между Gemini и Vertex AI
Google опубликовала специализированный SDK для управления потоками вызовов между моделью Gemini и различными компонентами платформы Vertex AI. SDK предоставляет высокоуровневые абстракции для организации обработки данных, вызова API и управления состоянием в многошаговых рабочих процессах.
Библиотека поддерживает асинхронное выполнение операций, встроенное кэширование результатов и автоматический retry при сбоях. Разработчики могут описывать сложные графы зависимостей между вызовами и автоматически распределять их по доступным ресурсам.
Развёртывание и масштабирование
SDK интегрируется с Vertex AI Pipelines для запуска полносистемных обработок на мощностях Google Cloud. Поддерживается развёртывание как в управляемом окружении, так и в собственных кластерах Kubernetes.
Библиотека включает примеры использования для типичных сценариев: обработка больших объёмов текста, мультимодальный анализ данных и координация Gemini с другими моделями Vertex AI. Документация содержит рекомендации по оптимизации затрат и производительности.
SDK доступен для Python и Node.js и распространяется как открытое ПО. Google планирует регулярно добавлять новые компоненты Vertex AI в список поддерживаемых сервисов.