Anthropic выпустила инструмент для анализа токен-по-токен стоимости операций
Anthropic разработала инструмент анализа, который раскрывает стоимость каждого токена в запросе и ответе, включая токены кэширования контекста и переиспользования. Это позволяет разработчикам точно видеть, на что уходит их бюджет при работе с API.
Инструмент интегрирован в веб-консоль и доступен также как SDK для программного анализа. Он показывает детализацию по типам операций: первичная обработка, использование кэша, повторное использование контекста.
Практическое применение
Разработчики могут выявлять неоптимальные паттерны запросов и переделывать логику для снижения стоимости. Сравнение рекомендаций от инструмента помогает выбрать наиболее эффективную архитектуру решения.
Функция экспорта отчётов позволяет отслеживать расходы по времени и по приложениям. Это полезно при планировании бюджета и прогнозировании затрат масштабируемых сервисов.
Инструмент доступен всем пользователям API Anthropic бесплатно в их аккаунте.