Яндекс добавил поддержку контекстного окна в два миллиона токенов
Яндекс объявил об увеличении контекстного окна модели до двух миллионов токенов. Расширение позволяет системе обрабатывать больший объём текста и сохранять контекст на протяжении длительных разговоров или анализа обширных документов.
Увеличение контекстного окна особенно актуально для корпоративных клиентов, которым требуется анализировать полные тексты отчётов, кодовых баз и исторических архивов без разделения на части.
Конкуренция в области контекста
Расширение контекста стало одним из направлений конкуренции между разработчиками больших языковых моделей. Параллельно подобные возможности добавляют другие компании, стремясь предложить пользователям более гибкие решения.
Яндекс указывает на то, что расширенный контекст сохраняет качество ответов модели и не влияет на скорость обработки запросов.
Расширение поддержки контекстного окна может повысить привлекательность сервиса для клиентов, работающих с большими объёмами текстовой информации и требующих высокой точности при её обработке.