Anthropic добавила в Claude SDK функцию для отслеживания токенов в контексте окна
Anthropic добавила в Claude SDK встроенную функцию для отслеживания токенов в контексте окна модели. Разработчики теперь могут в реальном времени видеть, сколько токенов уже потрачено, сколько осталось доступным, и планировать добавление информации в контекст с учётом этого лимита.
Функция работает на уровне SDK и не требует дополнительных запросов к API. Она отслеживает как входящие сообщения пользователя, так и внутреннее накопление контекста при многоходовых взаимодействиях с агентом.
Контроль над контекстом
API возвращает объект с текущим использованием, прогнозом для следующего запроса и рекомендациями по очистке истории. Разработчики могут использовать эту информацию для динамического управления памятью агента.
Функция особенно полезна при работе с длинными диалогами и большими объёмами документов. Она помогает избежать неожиданного переполнения окна и предсказуемее управлять стоимостью запросов.
Обновление доступно в Claude SDK для Python и JavaScript начиная с версии 1.8.0 и не требует изменений в способе вызова API.