Anthropic добавила в Claude SDK функцию для отслеживания токенов в контексте окна

Anthropic добавила в Claude SDK встроенную функцию для отслеживания токенов в контексте окна модели. Разработчики теперь могут в реальном времени видеть, сколько токенов уже потрачено, сколько осталось доступным, и планировать добавление информации в контекст с учётом этого лимита.

Функция работает на уровне SDK и не требует дополнительных запросов к API. Она отслеживает как входящие сообщения пользователя, так и внутреннее накопление контекста при многоходовых взаимодействиях с агентом.

Контроль над контекстом

API возвращает объект с текущим использованием, прогнозом для следующего запроса и рекомендациями по очистке истории. Разработчики могут использовать эту информацию для динамического управления памятью агента.

Функция особенно полезна при работе с длинными диалогами и большими объёмами документов. Она помогает избежать неожиданного переполнения окна и предсказуемее управлять стоимостью запросов.

Обновление доступно в Claude SDK для Python и JavaScript начиная с версии 1.8.0 и не требует изменений в способе вызова API.