overview
Что такое Intel Neural Compressor?
Intel Neural Compressor — это продвинутый набор инструментов, разработанный для автоматической квантизации и дистилляции, с фокусом на архитектуры Xeon и другие процессоры. Он позволяет разработчикам минимизировать задержку и максимизировать пропускную способность для задач вывода в глубоком обучении.
- Оптимизировано для различных архитектур моделей.
- Улучшает использование аппаратных ресурсов без потери точности.
- Поддерживает несколько популярных фреймворков глубокого обучения.