overview
Was ist MiMo V2.5 Pro UltraSpeed?
MiMo V2.5 Pro UltraSpeed ist ein Hochgeschwindigkeits-Reasoning Mixture-of-Experts KI-Modell, entwickelt von Xiaomi und TileRT, das Entwicklern, Ingenieuren und Forschern die Ausführung von Echtzeit-KI-Anwendungen ermöglicht. Es treibt ein 1-Billion-Parameter-Modell auf über 1000 tokens per second (TPS) auf handelsüblichen GPUs, mit gemeldeten Spitzenwerten von bis zu 1200 TPS. Dieses Modell ist eine fortgeschrittene Variante des MiMo-V2.5-Pro Modells, speziell entwickelt für Szenarien, in denen niedrige Latenz entscheidend ist. Seine Entwicklung umfasste ein extremes Modell-System-Codesign, das Innovationen wie FP4 Quantization von MoE Experts und DFlash Speculative Decoding, zusammen mit TileRT's Ultra-Low-Latency Inference System, integriert. Das Basismodell, MiMo-V2.5-Pro-FP4-DFlash, ist auf Hugging Face quelloffen verfügbar, einschließlich quantisierter Gewichte und DFlash-Parameter, was ein unabhängiges Community-Benchmarking erleichtert.
