L'IA de Google à 1 000 tokens/seconde est là
DiffusionGemma de Google redéfinit les règles de la génération de texte, en utilisant des techniques de diffusion d'images pour atteindre des vitesses de plus de 1 000 tokens par seconde. Ce changement radical d'une architecture memory-bound à compute-bound débloque une nouvelle classe d'IA locale instantanée et interactive.
