Mistral выпустила легковесный SDK для работы с функцией вызова инструментов

Mistral AI выпустила лёгкий SDK для работы с tool calling — функцией, которая позволяет моделям самостоятельно вызывать внешние инструменты и API. Библиотека доступна для Python и JavaScript и минимизирует количество зависимостей, что важно для встраивания в существующие проекты.

SDK содержит готовые примеры интеграции с популярными фреймворками и обрабатывает потокобезопасное управление вызовами. Разработчики могут определять инструменты в виде простых описаний и передавать их моделям через единый интерфейс.

Применение в production

Инструмент предназначен для систем, которые требуют от моделей взаимодействия с внешними сервисами: поиск по базам данных, отправка запросов к API, управление файлами. SDK обрабатывает ошибки вызовов и повторные попытки.

Mistral расположила SDK в открытом репозитории с документацией и готовыми сценариями использования. Поддержка включает работу как с облачным API Mistral, так и с локально развёрнутыми моделями.

Лицензия позволяет использовать SDK в коммерческих проектах без ограничений по количеству вызовов или размеру приложения.