Tag
5 publicaciones
Un pequeño modelo de 2B parámetros está superando a gigantes del doble de su tamaño en tareas de programación complejas, anunciando una nueva era para los agentes de IA locales. Pero escondido en su propia documentación hay un ajuste único que puede volverlo completamente inútil.
Un modelo de IA revolucionario acaba de reducirse lo suficiente como para ejecutarse en tu escritorio. Pero un requisito de hardware oculto lo convierte en una fantasía para casi todo el mundo, y no es el que piensas.
Unsloth acaba de comprimir un modelo de IA de 1.51TB a unos impresionantes 238GB, conservando más del 80% de su potencia. Este avance significa que ahora puedes ejecutar un agente de codificación de clase 'frontier' directamente en tu Mac, evitando las API para siempre.
Xiaomi acaba de lanzar un modelo de IA que genera más de 1.000 tokens por segundo en GPUs estándar, superando a GPT-4. Este avance en el 'diseño conjunto modelo-sistema' podría cambiar fundamentalmente las aplicaciones de IA en tiempo real.
Google lanzó un algoritmo de IA tan eficiente que desplomó los precios de la memoria de la noche a la mañana. Pero la verdadera historia es por qué esta 'solución' empeorará aún más la crisis de la RAM.
