overview
Was ist IBM Granite Inference?
IBM Granite Inference nutzt modernste Foundation-Modelle, die für den Einsatz in Unternehmen über die watsonx-Plattform optimiert sind. Erleben Sie blitzschnelle Inferenz mit reduzierten Rechenanforderungen, die den Weg für fortschrittliche KI-Workflows ebnet.
- Hybrid Mamba-2/Transformator-Architektur für verbesserte Leistung
- Mehrere Modellgrößen, einschließlich Basis- und Instruktionsvarianten.
- Starke Unterstützung für Edge- und On-Device-Operationen
