Mistral выпустила легковесный SDK для работы с функцией вызова инструментов
Mistral AI выпустила лёгкий SDK для работы с tool calling — функцией, которая позволяет моделям самостоятельно вызывать внешние инструменты и API. Библиотека доступна для Python и JavaScript и минимизирует количество зависимостей, что важно для встраивания в существующие проекты.
SDK содержит готовые примеры интеграции с популярными фреймворками и обрабатывает потокобезопасное управление вызовами. Разработчики могут определять инструменты в виде простых описаний и передавать их моделям через единый интерфейс.
Применение в production
Инструмент предназначен для систем, которые требуют от моделей взаимодействия с внешними сервисами: поиск по базам данных, отправка запросов к API, управление файлами. SDK обрабатывает ошибки вызовов и повторные попытки.
Mistral расположила SDK в открытом репозитории с документацией и готовыми сценариями использования. Поддержка включает работу как с облачным API Mistral, так и с локально развёрнутыми моделями.
Лицензия позволяет использовать SDK в коммерческих проектах без ограничений по количеству вызовов или размеру приложения.