Recherche en IA ·
L'astuce pour faire tenir un LLM de 35B sur un iPhone
Faire fonctionner un modèle d'IA de 35 milliards de paramètres sur un téléphone semble impossible, étant donné qu'il nécessite 20 Go de RAM. Mais une nouvelle technique change la donne en matière de limites de mémoire, ouvrant la voie à une IA puissante et privée qui ne quitte jamais votre appareil.