Квантизация асимметричная: когда диапазоны весов очень неравномерны

23 октября 2026

Исследователи обнаружили, что веса нейронных сетей часто распределены неравномерно: большинство параметров лежат в узком диапазоне, но некоторые имеют аномально большие значения. Стандартные методы квантизации обрабатывают всё одинаково, что приводит к потере точности на критически важных весах.

Асимметричная квантизация предлагает разные масштабы кодирования для разных слоёв и даже для разных каналов внутри одного слоя. Параметры, которые сильно влияют на выход, получают более точное представление, тогда как менее важные сжимаются сильнее.

Практические результаты

Метод позволяет сократить размер модели на 50-75%, теряя меньше качества, чем при равномерной квантизации. На 8-бит представлении асимметрия практически не влияет на скорость инференса, но значительно улучшает точность.

Подход особенно полезен для мобильных устройств и edge-сценариев, где место в памяти критично. Разработчики могут использовать более крупную модель, которая раньше не влезала бы на целевое оборудование.

Метод уже встроен в несколько оптимизирующих инструментов и начинает распространяться в стандартных пайплайнах подготовки моделей к локальному запуску.