Herramienta de IA

Reseña de ngrok AI Gateway

ngrok AI Gateway proporciona una única pasarela alojada para conectar varios modelos y proveedores de IA, ofreciendo observabilidad y control de acceso.

shipped 5 ago 2026codepaid

Domain rating28Monthly visits111/mo

code

Por qué importa

1Dirige las solicitudes de IA a múltiples proveedores (por ejemplo, OpenAI, Anthropic, Google) y modelos autoalojados a través de un único endpoint.

2Automatiza la conmutación por error entre modelos, proveedores y claves API para garantizar la fiabilidad.

3Ofrece una experiencia dedicada en app.ngrok.ai a partir del 1 de julio de 2026, con nuevas cuentas que reciben $1 de crédito.

4Presenta una tarifa de enrutamiento de $0.05 y un precio de uso de $0.05 por millón de tokens.

Sobre ngrok AI Gateway

Modelo de negocio

Usage-Based (Pay Per Use)

Precio por uso

$0.05 per million tokens

Sede

San Francisco, USA

Plataformas

Web, API

Público objetivo

Developers and Teams using AI Models

Planes de precios

Routing Fee

$0.05 / per million tokens

• Cost of inference is added separately
• Credits purchased upfront

Ejemplos de costes

• Route 1 million tokens: $0.05

Liderazgo

Alan HohnCo-founder

M. CareyCo-founder

API Docs GitHub

Especificaciones

Documentación API

Ver documentación →

GitHub

Ver repositorio →

API disponible

Sí, API pública

Screenshots

overview

¿Qué es ngrok AI Gateway?

ngrok AI Gateway es una herramienta de pasarela de IA especializada desarrollada por ngrok que permite a los desarrolladores de IA, ingenieros, startups que construyen productos de IA y empresas que utilizan modelos de IA conectar varios modelos y proveedores de IA a través de una única pasarela alojada. Ofrece observabilidad y control de acceso, permitiendo a los usuarios gestionar claves API y enrutamiento sin la necesidad de una infraestructura compleja.

features

Características Clave de ngrok AI Gateway

ngrok AI Gateway proporciona una interfaz unificada para gestionar el tráfico de modelos de IA, ofreciendo un conjunto de características diseñadas para agilizar el desarrollo y la implementación de aplicaciones de IA.

Enrutamiento Multi-Proveedor y Multi-Modelo: Conecta aplicaciones a varios proveedores de IA (OpenAI, Anthropic, Google, DeepSeek, OpenRouter) y modelos autoalojados (Ollama, vLLM) a través de un único endpoint gateway.ngrok.ai.
Conmutación por Error y Balanceo de Carga Automáticos: Reintentos configurables con claves API o modelos alternativos en caso de fallo o límites de tasa, asegurando la resiliencia de la aplicación.
Control de Acceso y Gestión de Claves: Control granular sobre el acceso a modelos con claves de acceso separadas para aplicaciones o desarrolladores, soportando Bring Your Own Key (BYOK) o claves gestionadas por ngrok.
Observabilidad y Análisis: Proporciona conteo de tokens, métricas de uso y un Traffic Inspector para depurar solicitudes, ofreciendo visibilidad de las interacciones de IA, latencia y costos.
Modificación de Contenido en Tránsito: Capacidad de redactar Información de Identificación Personal (PII) antes de que las solicitudes lleguen a los proveedores de IA y sanitizar respuestas, así como inyectar prompts del sistema.
Soporte Nativo de SDK: Incluye soporte nativo para el SDK de Anthropic, habilitando características solo para Claude como el almacenamiento en caché de prompts y el pensamiento extendido.
Clave API Unificada: Permite que una única clave API de AI Gateway acceda tanto a Anthropic como a OpenAI, con ngrok manejando la inyección de claves de proveedor desde el 2 de marzo de 2026.

use cases

¿Quién debería usar ngrok AI Gateway?

ngrok AI Gateway está diseñado para desarrolladores y equipos de plataforma que buscan simplificar y mejorar la gestión de las interacciones con modelos de IA. Sus capacidades se adaptan a varios escenarios en el desarrollo y la implementación de aplicaciones de IA.

Desarrolladores e Ingenieros de IA: Para simplificar la infraestructura de IA evitando la gestión de múltiples claves API, SDKs y lógica de respaldo compleja en diferentes proveedores de IA.
Startups que Construyen Productos de IA: Para garantizar la fiabilidad y el rendimiento a través de la conmutación por error automática y el balanceo de carga, previniendo interrupciones del servicio y optimizando la selección de modelos.
Empresas que Utilizan Modelos de IA: Para asegurar las interacciones de IA actuando como un puente seguro entre sistemas internos y APIs de IA externas, aplicando reglas de gobernanza, registro y enrutamiento.
Equipos con Implementaciones de IA Híbridas: Para enrutar solicitudes sin problemas a una mezcla de modelos alojados en la nube y locales/privados sin exponer la infraestructura privada a la internet pública.
Equipos de Prototipos y Experimentación: Para prototipar y experimentar rápidamente cambiando entre diferentes modelos y proveedores sin cambios significativos en el código.

how to use

Cómo usar ngrok AI Gateway

Para comenzar a usar ngrok AI Gateway, los usuarios suelen registrarse para obtener una cuenta, configurar sus proveedores de IA y luego integrar el endpoint de la pasarela en sus aplicaciones.

1Regístrese para obtener una cuenta de ngrok AI Gateway en app.ngrok.ai.
2Cree claves de AI Gateway y adjunte claves API de proveedor directamente a ellas.
3Configure reglas y políticas de enrutamiento para diferentes modelos y proveedores de IA.
4Integre el endpoint gateway.ngrok.ai en las llamadas a la API de IA de su aplicación.
5Monitoree el tráfico, el uso y los costos de IA utilizando el Traffic Inspector y las funciones de observabilidad.
6Utilice el proveedor de Terraform reconstruido (v0.8.1) para gestionar dominios, endpoints en la nube, Traffic Policy y secretos como código.

pricing

Precios y Planes de ngrok AI Gateway

ngrok AI Gateway opera con un modelo de precios basado en el uso, con tarifas específicas para el enrutamiento y el consumo de tokens. Las nuevas cuentas reciben un crédito para empezar.

Tarifa de Enrutamiento: $0.05 por millón de tokens enrutados.
Precio de Uso: $0.05 por millón de tokens consumidos por los modelos de IA.
Las nuevas cuentas reciben $1 de crédito para comenzar a usar el servicio.
A partir del 8 de abril de 2026, los usuarios del plan gratuito pueden comprar créditos de AI Gateway para enrutar a múltiples proveedores.
El precio de Traffic Policy se redujo 10 veces a partir del 13 de julio de 2026, y los dominios personalizados inactivos se volvieron gratuitos.

Pros

+Provides a single, OpenAI-compatible endpoint for multiple AI providers and self-hosted models, simplifying integration.
+Offers robust automatic failover and load balancing, enhancing application resilience and performance.
+Centralizes API key management and provides granular access control, improving security and operational efficiency.
+Delivers comprehensive observability with token counting, usage metrics, latency, and error tracking for AI requests.
+Facilitates secure connection to self-hosted models without direct public internet exposure, integrating local LLMs seamlessly.
+Achieved SOC 2 Type 2 compliance and offers HIPAA alignment with a BAA, addressing enterprise-level security and regulatory needs.

Cons

−The processing fee of $0.00005 per 1k tokens is an additional cost on top of underlying AI provider inference fees when using ngrok-managed keys.
−While offering a Free plan, higher rate limits and advanced features are tied to paid plans, potentially increasing costs for high-volume users.
−Some users have reported initial perceptions of it being a 'LiteLLM wrapper,' indicating a need for clearer differentiation in the market.
−General ngrok reviews mention billing opacity and slow email support, which could extend to the AI Gateway service.

Herramientas similares

ngrok AI Gateway vs Competidores

ngrok AI Gateway se posiciona como una solución de middleware alojada para la gestión de solicitudes de IA, diferenciándose de los competidores principalmente a través de su integración con la infraestructura de túneles existente de ngrok y su enfoque en un único endpoint de pasarela seguro.

LiteLLM↗

Provides a unified OpenAI-compatible API to over 140 LLM providers and 1,800+ models, with extensive self-hosting capabilities and cost optimization features like auto-routing and caching.

While ngrok AI Gateway is a hosted solution, LiteLLM is open-source and self-hostable, offering more control over your infrastructure and data, but requiring you to manage the deployment.

Portkey.aiOn Stork

Offers a comprehensive LLM observability and gateway platform with features like prompt management, A/B testing, and guardrails, alongside unified API access and key management.

Portkey.ai provides a hosted solution with a strong focus on observability and prompt management, whereas ngrok AI Gateway emphasizes networking and access control for AI services. Portkey's pricing is based on 'recorded logs' rather than tokens directly.

Helicone.aiOn Stork

Specializes in LLM observability with detailed logging, request tracing, and analytics, combined with gateway features for routing and cost tracking.

Helicone.ai is a hosted platform with a strong emphasis on detailed observability and analytics for LLM requests, while ngrok AI Gateway focuses more broadly on secure access and management for various AI services.

freellmapi↗

An OpenAI-compatible proxy that intelligently routes requests across free tiers of multiple LLM providers, with automatic failover and an admin dashboard for key management and analytics.

freellmapi is a self-hostable, open-source proxy specifically designed to maximize usage of free LLM API tiers and manage multiple keys, which is a more niche focus compared to ngrok AI Gateway's broader AI service access and control.

Más en Stork

Herramientas IA relacionadas

Otras herramientas de esta categoría, emparejadas por etiquetas comunes

SkillPilot Frontière AI CuToken ShowIn AI Image Unblur Fienl

Visitar ngrok AI Gateway↗

Conectar

𝕏

X / Twitterx.com/ngrokHQ

⌘

GitHubgithub.com/ngrok

LinkedInwww.linkedin.com/company/ngrok/