Tag
7 articles
Un modèle local miniature pourrait rendre les agents IA pratiques sur du matériel courant, mais sa victoire médiatique cache un compromis de capacité important. Les benchmarks soulèvent une question plus difficile : quelles compétences pouvez-vous vous permettre de perdre ?
La promesse de vitesse affichée s'accompagne d'une réserve matérielle, et la précision change radicalement en présence de bruit de fond. Le rebondissement le plus important est dissimulé dans la commande d'installation : si les poids sont ouverts, le moteur ne l'est pas.
Un minuscule modèle à 2 milliards de paramètres surpasse des géants deux fois plus grands sur des tâches de codage complexes, annonçant une nouvelle ère pour les agents IA locaux. Mais caché dans sa propre documentation se trouve un paramètre unique qui peut le rendre totalement inutile.
Un modèle d'IA révolutionnaire vient d'être réduit pour tenir sur votre ordinateur de bureau. Mais une exigence matérielle cachée en fait un rêve inaccessible pour presque tout le monde, et ce n'est pas celle que vous croyez.
Unsloth vient de compresser un modèle d'IA de 1,51 TB à une taille impressionnante de 238 GB, conservant plus de 80 % de sa puissance. Cette avancée signifie que vous pouvez désormais exécuter un agent de codage de classe "frontier" directement sur votre Mac, en contournant les API pour toujours.
Xiaomi vient de lancer un modèle d'IA qui génère plus de 1 000 tokens par seconde sur des GPUs standards, dépassant largement GPT-4. Cette percée en 'model-system codesign' pourrait changer fondamentalement les applications d'IA en temps réel.
Google a lancé un algorithme d'IA si efficace qu'il a fait chuter les prix de la mémoire du jour au lendemain. Mais la véritable histoire est de savoir pourquoi cette « solution » va aggraver encore plus la crise de la RAM.
