overview
Was ist Microsoft Olive?
Microsoft Olive ist ein leistungsstarkes Toolkit zur Modellkompression und -kompilierung, das dazu entwickelt wurde, KI-Workloads für verschiedene Hardware-Plattformen zu optimieren. Es richtet sich sowohl an ML-Anwender, die Benutzerfreundlichkeit suchen, als auch an fortgeschrittene Nutzer, die eine präzise Kontrolle über ihre Modelle benötigen.
- Optimiert Modelle für CPUs, GPUs und NPUs mit minimalem manuellem Tuning.
- Unterstützt eine Vielzahl von Frameworks und Beschleunigern für flexibles Deployment.
- Entwickelt für sowohl Anfänger als auch erfahrene Benutzer.