Tag
7 publicaciones
Un modelo local diminuto podría hacer que los agentes de IA sean prácticos en hardware cotidiano, pero su victoria destacada oculta un fuerte compromiso en sus capacidades. Los benchmarks plantean una pregunta más difícil: ¿qué habilidades puedes permitirte perder?
La afirmación sobre la velocidad en el titular viene con un asterisco de hardware, y la historia sobre la precisión cambia cuando aparece ruido de fondo. El giro más importante está enterrado en el comando de instalación: los pesos pueden ser abiertos, pero el motor no.
Un pequeño modelo de 2B parámetros está superando a gigantes del doble de su tamaño en tareas de programación complejas, anunciando una nueva era para los agentes de IA locales. Pero escondido en su propia documentación hay un ajuste único que puede volverlo completamente inútil.
Un modelo de IA revolucionario acaba de reducirse lo suficiente como para ejecutarse en tu escritorio. Pero un requisito de hardware oculto lo convierte en una fantasía para casi todo el mundo, y no es el que piensas.
Unsloth acaba de comprimir un modelo de IA de 1.51TB a unos impresionantes 238GB, conservando más del 80% de su potencia. Este avance significa que ahora puedes ejecutar un agente de codificación de clase 'frontier' directamente en tu Mac, evitando las API para siempre.
Xiaomi acaba de lanzar un modelo de IA que genera más de 1.000 tokens por segundo en GPUs estándar, superando a GPT-4. Este avance en el 'diseño conjunto modelo-sistema' podría cambiar fundamentalmente las aplicaciones de IA en tiempo real.
Google lanzó un algoritmo de IA tan eficiente que desplomó los precios de la memoria de la noche a la mañana. Pero la verdadera historia es por qué esta 'solución' empeorará aún más la crisis de la RAM.
