Tag
6 publicaciones
Un modelo de IA de 45 millones de parámetros ahora cabe en un microcontrolador de $10, pero su verdadero poder no es la conversación. Es un avance que podría integrar acciones inteligentes en miles de millones de dispositivos cotidianos.
Un microcontrolador de $8 con menos memoria RAM que una PC de los años 90 ahora ejecuta un modelo de lenguaje de 29M de parámetros completamente offline. Descubre el ingenioso truco de memoria, inspirado en Gemma de Google, que hace realidad esta hazaña imposible.
Todo el mundo apuesta a que el modelo de IA más inteligente ganará la carrera tecnológica. Pero el verdadero vencedor está construyendo algo completamente distinto, justo delante de nuestras narices.
Ejecutar grandes modelos de IA localmente en tu teléfono suele significar una batería agotada y una aplicación bloqueada. Un nuevo motor de inferencia llamado Cactus cambia las reglas del juego al utilizar mapeo de memoria de copia cero (zero-copy memory mapping) y una arquitectura NPU-first para ofrecer un rendimiento masivo con una huella diminuta.
Un ordenador de una década de antigüedad con solo 512MB de RAM está ejecutando un modelo de IA local. Desglosamos la hazaña de ingeniería imposible que hace que la IA moderna sea verdaderamente portátil.
Google acaba de lanzar Gemma 4, un modelo de IA revolucionario diseñado para funcionar completamente sin conexión en tu teléfono. Su nueva arquitectura radical promete una inteligencia sin precedentes en un paquete diminuto, lo que podría hacer que la IA en la nube sea obsoleta para las tareas cotidianas.
