La herramienta de Netflix reduce los costos de IA en un 95%
Un ingeniero de Netflix acaba de lanzar una herramienta de código abierto que reduce el uso de tokens de los agentes de IA hasta en un 95%. Este proxy local-first comprime inteligentemente el contexto antes de que llegue al LLM, haciendo que los agentes potentes sean radicalmente más baratos.
