Tag
7 publicaciones
Ejecutar grandes modelos de IA localmente en tu teléfono suele significar una batería agotada y una aplicación bloqueada. Un nuevo motor de inferencia llamado Cactus cambia las reglas del juego al utilizar mapeo de memoria de copia cero (zero-copy memory mapping) y una arquitectura NPU-first para ofrecer un rendimiento masivo con una huella diminuta.
Deja de hacer malabares con los servidores LLM locales y de desperdiciar VRAM. Una nueva herramienta llamada Llama-swap ofrece una API única y estable para intercambiar automáticamente (hot-swap) cualquier modelo que necesites.
¿Cansado de que tu Mac se ralentice al ejecutar modelos de IA locales? Un nuevo motor de inferencia llamado oMLX aprovecha un revolucionario sistema de caché SSD para ofrecer velocidades 3 veces más rápidas y recuperar los recursos de tu sistema.
Una nueva IA de código abierto se ejecuta completamente en tu portátil, ofreciendo un rendimiento que rivaliza con modelos masivos en la nube como GPT-4V. Descubre cómo Qwen 2.5 VL lee imágenes, corrige código y analiza vídeo localmente, cambiando las reglas del juego para los desarrolladores de todo el mundo.
Deja de pagar facturas exorbitantes por la nube para ejecutar grandes modelos de IA. Una nueva herramienta de código abierto llamada Exo convierte tus Mac, PC e incluso Raspberry Pis existentes en un poderoso clúster de IA privado.
La tecnología de IA detrás de AlphaGo ya no es solo para centros de datos masivos. Este tutorial te muestra cómo utilizar tu PC de juegos NVIDIA para entrenar un potente modelo de IA desde cero.
La tecnología de IA detrás de AlphaGo ya no es solo para grandes centros de datos. Este tutorial te enseñará a usar tu PC para juegos NVIDIA para entrenar un modelo de IA potente desde cero.
