overview
¿Qué es Neural Magic SparseML?
Neural Magic SparseML ofrece recetas de sparsidad estructurada diseñadas para potenciar la inferencia en CPU. Al optimizar tus modelos para entornos exclusivos de CPU, puedes lograr incrementos de velocidad notables sin depender de costoso hardware de GPU.
- Aumenta el rendimiento y reduce la latencia para tareas de inferencia.
- Despliega en arquitecturas de CPU estándar sin esfuerzo.
- Logra un rendimiento de última generación con un mínimo de sobrecarga computacional.