Skip to content

Kong AI Gateway

Kong AI Gateway расширяет корпоративную платформу управления API Kong возможностями, специфичными для LLM, такими как сжатие подсказок, семантическое кэширование и динамическая маршрутизация моделей.

Платно · API

stork
Я одно неподвижное изображение.
Одна напечатанная фраза. Ролик стоил $0.05: это минимум за видео.
Фото заговорит за $0.20 в минуту.
Загрузите одно фото и напечатайте текст. Без подписки. Одно бесплатное видео в день.
Сделать бесплатноРазработчикам: есть API

Что такое Kong AI Gateway?

Kong AI Gateway — это расширение с поддержкой ИИ, разработанное Kong, которое позволяет организациям, уже использующим экосистему управления API Kong, управлять, защищать и оптимизировать трафик для Large Language Models (LLMs), Model Context Protocol (MCP) и связи Agent-to-Agent (A2A). Оно предоставляет единую панель управления как для традиционного трафика API, так и для рабочих нагрузок ИИ, предлагая возможности, специфичные для LLM, такие как сжатие подсказок, семантическое кэширование и динамическая маршрутизация моделей.

Ключевые особенности Kong AI Gateway

Kong AI Gateway расширяет возможности Kong Gateway, специально для удовлетворения уникальных требований рабочих нагрузок ИИ, предлагая набор функций, разработанных для управления трафиком LLM и его регулирования.

  • Возможности, специфичные для LLM, включая сжатие подсказок и семантическое кэширование.
  • Динамическая маршрутизация моделей для оркестрации LLM от нескольких провайдеров с аварийным переключением и балансировкой нагрузки.
  • Надежное управление API, контроль доступа и применение политик для трафика LLM.
  • Мощные функции сжатия токенов для оптимизации взаимодействий LLM.
  • Плагины AI Prompt Decorator и AI Prompt Compressor для обработки подсказок.
  • Очистка PII для предотвращения утечки данных при взаимодействиях LLM.
  • Автоматическая инъекция Retrieval-Augmented Generation (RAG) для уменьшения галлюцинаций LLM.
  • AI Agent Governance для управления многоагентными системами ИИ и связью A2A.
  • Защитные механизмы безопасности контента и семантические защитные механизмы подсказок.
  • Политики ИИ с учетом идентификации, основанные на Kong Identity и нативной аутентификации IAM для Amazon Bedrock AgentCore.

Кому следует использовать Kong AI Gateway?

Kong AI Gateway разработан для предприятий и команд платформ, которым требуется расширенное управление API и регулирование для их рабочих нагрузок ИИ, особенно для тех, кто уже интегрирован в экосистему Kong.

  • Организации, уже использующие экосистему управления API Kong, которым необходимо распространить управление на трафик LLM.
  • Предприятиям, которым требуется унифицированное управление трафиком как для традиционных API, так и для рабочих нагрузок AI/MCP/A2A.
  • Командам, которым необходимо централизовать учетные данные провайдеров LLM, управлять затратами и реализовать маршрутизацию LLM от нескольких провайдеров.
  • Разработчикам и инженерам платформ, сосредоточенным на проектировании подсказок, очистке PII и инъекции RAG для приложений LLM.
  • Организациям, которым требуется надежная безопасность, соответствие требованиям и возможность аудита для взаимодействий агентов ИИ и доступа к серверам MCP.

Как использовать Kong AI Gateway

Чтобы использовать Kong AI Gateway, организации интегрируют его в свою существующую развертку Kong Gateway для управления и защиты трафика, специфичного для ИИ. Это включает настройку плагинов и политик с поддержкой ИИ.

  1. Разверните Kong AI Gateway как расширение существующего экземпляра Kong Gateway.
  2. Настройте плагины, специфичные для ИИ, такие как AI Prompt Decorator и AI Prompt Compressor.
  3. Настройте динамическую маршрутизацию моделей для нескольких провайдеров LLM, включая аварийное переключение и балансировку нагрузки.
  4. Внедрите политики очистки PII и инъекции RAG для улучшенной обработки данных и точности LLM.
  5. Примените контроль доступа, аутентификацию и защитные механизмы безопасности контента для трафика LLM и агентов ИИ.
  6. Используйте MCP Registry в Kong Konnect для обнаружения и управления серверами MCP и нативными инструментами ИИ.

Цены и планы Kong AI Gateway

Kong AI Gateway — это платное расширение корпоративной платформы управления API Kong. Конкретные детали ценообразования обычно предоставляются после консультации с отделом продаж Kong, поскольку они адаптируются к требованиям предприятия и существующим развертываниям Kong.

  • Платно: Конкретные цены доступны при прямой консультации с отделом продаж Kong.

Плюсы

  • Extends existing Kong API management infrastructure to include AI traffic, leveraging familiar tools and workflows.
  • Provides comprehensive governance, security, and observability for LLM, MCP, and A2A traffic from a unified control plane.
  • Offers advanced prompt engineering features like AI RAG Injector, AI Prompt Decorator, and PII sanitization.
  • Supports multi-LLM routing, load balancing, and failover across various AI providers, enhancing reliability and cost efficiency.
  • Includes robust token-based cost management and usage quota enforcement for granular control over LLM expenditures.
  • Active development with significant recent updates, including the GA release of Kong AI Gateway 2.0 in September 2026.

Минусы

  • Primarily targets organizations already invested in the Kong ecosystem, potentially increasing adoption friction for new users.
  • The plugin model, while flexible, can require careful and extensive configuration for advanced AI proxying, sanitization, and caching.
  • Some public reviews for Kong Inc. reflect broader API management maturity rather than specific AI agent governance depth, requiring validation of specific AI features.
  • Perceived cost can be a concern for some users, particularly as usage scales, necessitating careful evaluation of pricing models.

Kong AI Gateway против конкурентов

Kong AI Gateway позиционируется как комплексная платформа для подключения API и ИИ, расширяющая проверенное решение для управления API в эпоху ИИ. Она отличается тем, что предлагает унифицированную платформу как для управления API, так и для управления ИИ, поддерживая гибридные и мультиоблачные среды.

Kong AI Gateway

Платно · API

Нравится статья? Получайте такие каждое утро на почту.

одно письмо в день · отписка в два клика · без сторонних трекеров