Skip to content

Kong AI Gateway

Kong AI Gateway étend la plateforme de gestion des API d'entreprise de Kong avec des capacités spécifiques aux LLM telles que la compression d'invite, la mise en cache sémantique et le routage dynamique de modèles.

Payant · API

stork
Je suis une seule image fixe.
Une phrase tapée. Ce clip a coûté $0.05, le minimum par vidéo.
Faites parler une photo pour $0.20 la minute.
Importez une photo et tapez le texte. Sans abonnement. Une vidéo gratuite par jour.
En faire une gratuitementDéveloppeurs : il y a une API

Qu'est-ce que Kong AI Gateway ?

Kong AI Gateway est un outil d'extension conscient de l'IA développé par Kong qui permet aux organisations utilisant déjà l'écosystème de gestion des API de Kong de gérer, sécuriser et optimiser le trafic pour les grands modèles linguistiques (LLM), le protocole de contexte de modèle (MCP) et la communication d'agent à agent (A2A). Il fournit un plan de contrôle unifié pour le trafic API traditionnel et les charges de travail d'IA, offrant des capacités spécifiques aux LLM telles que la compression d'invite, la mise en cache sémantique et le routage dynamique de modèles.

Fonctionnalités clés de Kong AI Gateway

Kong AI Gateway étend les capacités de Kong Gateway pour répondre spécifiquement aux exigences uniques des charges de travail d'IA, offrant une suite de fonctionnalités conçues pour la gestion et la gouvernance du trafic LLM.

  • Capacités spécifiques aux LLM, y compris la compression d'invite et la mise en cache sémantique.
  • Routage dynamique de modèles pour l'orchestration LLM multi-fournisseurs avec secours et équilibrage de charge.
  • Gestion robuste des API, contrôle d'accès et application des politiques pour le trafic LLM.
  • Fonctionnalités de compression de jetons robustes pour optimiser les interactions LLM.
  • Plugins AI Prompt Decorator et AI Prompt Compressor pour la gestion des invites.
  • Anonymisation des PII pour prévenir les fuites de données dans les interactions LLM.
  • Injection automatisée de Retrieval-Augmented Generation (RAG) pour réduire les hallucinations des LLM.
  • Gouvernance des agents d'IA pour la gestion des systèmes d'IA multi-acteurs et la communication A2A.
  • Garde-fous de sécurité du contenu et gardes d'invite sémantiques pour la sécurité.
  • Politiques d'IA sensibles à l'identité alimentées par Kong Identity et l'authentification IAM native pour Amazon Bedrock AgentCore.

Qui devrait utiliser Kong AI Gateway ?

Kong AI Gateway est conçu pour les entreprises et les équipes de plateforme qui nécessitent une gestion et une gouvernance avancées des API pour leurs charges de travail d'IA, en particulier celles déjà intégrées dans l'écosystème Kong.

  • Organisations utilisant déjà l'écosystème de gestion des API de Kong qui ont besoin d'étendre la gouvernance au trafic LLM.
  • Entreprises nécessitant une gestion unifiée du trafic pour les API traditionnelles et les charges de travail AI/MCP/A2A.
  • Équipes ayant besoin de centraliser les identifiants des fournisseurs LLM, de gérer les coûts et de mettre en œuvre le routage LLM multi-fournisseurs.
  • Développeurs et ingénieurs de plateforme axés sur l'ingénierie d'invite, l'anonymisation des PII et l'injection RAG pour les applications LLM.
  • Organisations nécessitant une sécurité, une conformité et une auditabilité robustes pour les interactions des agents d'IA et l'accès aux serveurs MCP.

Comment utiliser Kong AI Gateway

Pour utiliser Kong AI Gateway, les organisations l'intègrent dans leur déploiement Kong Gateway existant pour gérer et sécuriser le trafic spécifique à l'IA. Cela implique la configuration de plugins et de politiques conscients de l'IA.

  1. Déployer Kong AI Gateway comme une extension d'une instance Kong Gateway existante.
  2. Configurer des plugins spécifiques à l'IA tels que AI Prompt Decorator et AI Prompt Compressor.
  3. Mettre en place un routage dynamique de modèles pour plusieurs fournisseurs LLM, y compris le secours et l'équilibrage de charge.
  4. Mettre en œuvre des politiques d'anonymisation des PII et d'injection RAG pour une meilleure gestion des données et une précision accrue des LLM.
  5. Appliquer le contrôle d'accès, l'authentification et les garde-fous de sécurité du contenu pour le trafic LLM et des agents d'IA.
  6. Utiliser le registre MCP dans Kong Konnect pour la découverte et la gouvernance des serveurs MCP et des outils natifs de l'IA.

Tarification et plans de Kong AI Gateway

Kong AI Gateway est une extension payante de la plateforme de gestion des API d'entreprise de Kong. Les détails de tarification spécifiques sont généralement fournis après consultation avec l'équipe de vente de Kong, car ils sont adaptés aux exigences de l'entreprise et aux déploiements Kong existants.

  • Payant : La tarification spécifique est disponible via consultation directe avec les ventes de Kong.

Points forts

  • Extends existing Kong API management infrastructure to include AI traffic, leveraging familiar tools and workflows.
  • Provides comprehensive governance, security, and observability for LLM, MCP, and A2A traffic from a unified control plane.
  • Offers advanced prompt engineering features like AI RAG Injector, AI Prompt Decorator, and PII sanitization.
  • Supports multi-LLM routing, load balancing, and failover across various AI providers, enhancing reliability and cost efficiency.
  • Includes robust token-based cost management and usage quota enforcement for granular control over LLM expenditures.
  • Active development with significant recent updates, including the GA release of Kong AI Gateway 2.0 in September 2026.

Points faibles

  • Primarily targets organizations already invested in the Kong ecosystem, potentially increasing adoption friction for new users.
  • The plugin model, while flexible, can require careful and extensive configuration for advanced AI proxying, sanitization, and caching.
  • Some public reviews for Kong Inc. reflect broader API management maturity rather than specific AI agent governance depth, requiring validation of specific AI features.
  • Perceived cost can be a concern for some users, particularly as usage scales, necessitating careful evaluation of pricing models.

Kong AI Gateway vs concurrents

Kong AI Gateway se positionne comme une plateforme complète de connectivité API et IA, étendant une solution de gestion des API éprouvée à l'ère de l'IA. Elle se différencie en offrant une plateforme unifiée pour la gouvernance des API et de l'IA, prenant en charge les environnements hybrides et multi-cloud.

Kong AI Gateway

Payant · API

Cet article vous plaît ? Recevez-en un comme celui-ci chaque matin.

un e-mail par jour · désinscription en deux clics · aucun traqueur tiers