Крупные банки переходят на локальные модели ИИ для безопасности
Крупнейшие банки США и Европы, включая JPMorgan Chase и Deutsche Bank, активно переходят на локально развёрнутые языковые модели вместо облачных сервисов типа ChatGPT и Claude API. Причина — высокие требования регуляторов к конфиденциальности клиентских данных и растущие риски утечек при использовании сторонних платформ.
Финансовые учреждения инвестируют в обучение специализированных компактных моделей размером от 7 до 30 миллиардов параметров, которые работают быстро и требуют меньших вычислительных ресурсов.
Новый спрос на специализированные решения
Этот тренд ускорил развитие фреймворков для быстрого обучения и оптимизации малых моделей, включая LLaMA и Mistral.
Банки получают больше контроля над данными и логикой принятия решений, но возникают расходы на содержание собственной инфраструктуры и специалистов.
Регуляторы одобрили такой подход, что вероятно повлечёт аналогичные решения в других отраслях с жёсткими требованиями к конфиденциальности.