SafeTensors вытеснили ONNX: новый стандарт распространения весов

SafeTensors окончательно вытеснил ONNX из экосистемы открытых моделей. Формат, разработанный Hugging Face, предлагает встроенную защиту от произвольного исполнения кода при загрузке весов и работает на 50% быстрее классического бинарника.

Инструменты и платформы массово переходят на SafeTensors: от локальных запускаторов вроде Ollama до облачных провайдеров. ONNX, ориентированный на инференс, оказался неудобен для хранения и передачи исходных весов.

Что изменится для разработчиков

Новые модели в открытых репозиториях теперь распространяются исключительно в SafeTensors. Старые ONNX-веса хранятся для совместимости, но активной поддержки не получают.

Пользователи локальных установок заметят заметное ускорение первой загрузки модели — до нескольких минут в зависимости от размера. Это особенно важно для запуска больших моделей на слабых сетях.

Переход не требует изменений в коде инференса: фреймворки вроде PyTorch и TensorFlow уже обновлены и работают с SafeTensors как с родным форматом.