overview
¿Qué es Respan Gateway?
Respan Gateway es una plataforma de ingeniería de LLM desarrollada por Respan que permite a los desarrolladores de LLM, fundadores y equipos empresariales unificar la observabilidad, las evaluaciones, la optimización de prompts y el enrutamiento del tráfico de LLM. Proporciona un único endpoint compatible con OpenAI para gestionar más de 500 modelos de lenguaje grandes de varios proveedores. La plataforma integra estas capacidades en un sistema "eval-aware" diseñado para agilizar el desarrollo, la implementación y la monitorización de agentes de IA y aplicaciones impulsadas por LLM. Respan Gateway actúa como un plano de control central, ofreciendo características como fallback de modelo ordenado, balanceo de carga, reintentos automáticos configurables y almacenamiento en caché de respuestas para asegurar una alta disponibilidad y reducir los costos operativos. La compañía cambió su nombre de "Keywords AI" a principios de 2026, con el nombre inspirado en "spans", las unidades atómicas en el rastreo y la depuración de IA.