Investigación en IA ·
El truco para meter un LLM de 35B en un iPhone
Ejecutar un modelo de IA de 35 mil millones de parámetros en un teléfono parece imposible, dado que requiere 20GB de RAM. Pero una nueva técnica cambia las reglas del juego sobre los límites de memoria, abriendo la puerta a una IA potente y privada que nunca abandona tu dispositivo.