AI Gateway vs. Kong AI Gateway: KI-Verkehr im bestehenden API-Gateway oder dedizierte Governance- und FinOps-Komponente?

Das Wichtigste in Kürze (Stand 26.09.2026):

• Kong AI Gateway erweitert laut Anbieter das API-Gateway von Kong Inc. um LLM-, MCP- und Agentenverkehr; der Kern von Kong Gateway steht unter Apache-2.0-Lizenz, das Produkt AI Gateway setzt laut Dokumentation Konnect (SaaS-Control-Plane mit Data Planes beim Kunden) oder Kong Gateway Enterprise (vollständig selbst betrieben) voraus.
• Das innFactory AI Gateway wird in den Cloud-Tenant des Kunden ausgerollt und bündelt Kostenstellen mit Per-Member-Caps, Budgets in Euro und einen Companion, der die Agent-Zeit von Claude Code, Codex und OpenCode je Repository misst, auch für Abo-Nutzung.
• Laut Dokumentation begrenzt Kong Token oder daraus errechnete Kosten je Consumer, Consumer Group, Modell oder Provider mit HTTP 429 und misst, was durch das Gateway läuft; ein lokaler Companion für Agent-Zeit und Abo-Nutzung ist laut Kong-Dokumentation (Stand 26.09.2026) nicht beschrieben, während das innFactory AI Gateway Kostenstellen mit Pro-Kopf-Deckeln, EUR-Anzeige, HTTP 402 mit optionalem Fallback-Modell und den Companion mitbringt.
• Kong AI Gateway passt, wenn Sie Kong bereits als API-Gateway betreiben und KI-Verkehr mit denselben Policies, Plugins und Deployment-Mustern steuern oder KI-Nutzung gegenüber eigenen Kunden abrechnen wollen; das innFactory AI Gateway passt, wenn Control Plane und Datenpfad vollständig im eigenen Tenant liegen und die Agent-Zeit je Repository und Kostenstelle sichtbar sein soll.

Kong ist vielen IT-Abteilungen seit Jahren als API-Gateway bekannt. Kong Inc. sitzt laut seinen Nutzungsbedingungen in San Francisco und wurde nach eigener Darstellung 2009 in Mailand gegründet, damals als Mashape. Kong AI Gateway erweitert diese API-Plattform um KI-Verkehr; der Anbieter beschreibt es als „Secure, Scalable AI Gateway for AI Connectivity“ und verspricht: „Govern LLM, MCP, and agent-to-agent (A2A) traffic with the same Kong AI Gateway.“ Das ist ein starkes Produkt mit ausgereiftem Unterbau, und wer Kong bereits im Haus hat, hat gute Gründe, KI-Verkehr über dieselbe Infrastruktur zu führen.

Die eigentliche Entscheidung lautet deshalb: Behandeln Sie LLM-, MCP- und Agentenverkehr als weiteres Protokoll in Ihrem bestehenden API-Gateway — oder brauchen Sie eine dedizierte Komponente für KI-Governance und AI-FinOps, die zusätzlich die Arbeit der Coding-Agenten auf den Entwicklerrechnern sieht?

Was Kong AI Gateway ist

Der Kern von Kong Gateway steht unter Apache-2.0-Lizenz und ist laut Repository „built on OpenResty (Nginx)“ mit Lua als Hauptsprache. Mit Gateway 3.6 hat der Anbieter nach eigener Angabe sechs KI-Plugins als Open Source veröffentlicht, darunter AI Proxy, AI Prompt Guard, AI Prompt Template und AI Prompt Decorator — „entirely free and open source for everyone“.

Das Produkt AI Gateway im engeren Sinn ist davon abzugrenzen: „AI Gateway is not part of open-source Kong Gateway. It requires Konnect for cloud deployments or Kong Gateway Enterprise for on-premises installations.“ AI Proxy Advanced, AI Rate Limiting Advanced, AI Semantic Cache, AI Semantic Prompt Guard, AI Sanitizer und AI MCP Proxy tragen den Hinweis „only available as part of our AI Gateway Enterprise offering“. Zur Einordnung gehört auch die Übernahme von OpenMeter 2025, die Kong nach eigener Angabe für „usage-based pricing, entitlements, and invoicing“ einsetzt.

Betriebsmodell: SaaS, Self-Hosting oder Infrastruktur im eigenen Tenant

Kong bietet drei Wege: Kong Gateway OSS betreiben Sie selbst, mit den Open-Source-KI-Plugins. Kong Gateway Enterprise lässt sich laut Dokumentation vollständig selbst verwalten. Konnect ist Kongs SaaS-Control-Plane: Sie konfigurieren im Browser, die Data Planes laufen in Ihrer Umgebung. Zwischen den Ebenen wandern laut Dokumentation nur Konfiguration und Telemetrie; zur Telemetrie heißt es: „It does not include any customer data.“ Prompts und Antworten bleiben also in der vom Kunden betriebenen Data Plane, die Steuerung liegt bei Konnect. Für Kubernetes gibt es einen Helm-Chart und mTLS im Hybrid-Modus.

Das innFactory AI Gateway wird als Cloud-native Infrastrukturkomponente in Ihren eigenen Cloud-Tenant ausgerollt — Azure Container Apps oder AKS als Referenzpfad, STACKIT oder ein beliebiges Kubernetes — und dort als Teil Ihres KI-Stacks betrieben. innFactory hostet keine SaaS-Variante; Control Plane, Dashboard und Datenpfad liegen zusammen im Tenant. Die innFactory GmbH als Microsoft CSP unterstützt beim Rollout und kann die Azure-Subscription stellen. Konfiguration liegt als YAML-Code vor, ergänzt um einen Terraform-Provider. Seit August 2026 läuft das Gateway bei ersten Kunden produktiv, aktuell in Version 1.0.0-rc16.

Identität, SSO und Rollen

Konnect unterstützt laut Dokumentation „any OIDC or SAML-compliant provider“; als verifiziert nennt Kong Okta, Azure Active Directory, Oracle Identity Cloud Service und Keycloak. Das Rollenmodell kennt Organisationsrollen und ressourcenbezogene Rollen (Admin, Viewer, Creator, Maintainer, Publisher), auch scoped auf AI Gateways; Teams können aus IdP-Gruppen-Claims befüllt werden. SCIM ist auf der SSO-Seite nicht dokumentiert, eine Zuordnung von SSO zu einer bestimmten Konnect-Stufe nennt sie ebenfalls nicht.

Das innFactory AI Gateway bindet Microsoft Entra ID oder einen generischen OIDC-Provider an (Keycloak dokumentiert). Es gibt sieben Rollen — Owner, Admin, Auditor, Finance, Security, Member und Guest —, Gruppen-Mapping aus dem IdP, eigene Administratoren je Kostenstelle und pro Person erlaubte Modelle, Budgets und Rate Limits, in jeder Lizenzstufe.

Kostenkontrolle und AI-FinOps

Kongs Kostenkontrolle hat zwei Schichten. Im Gateway setzt AI Rate Limiting Advanced durch: Es „supports multi-dimensional limiting at the Consumer, Consumer Group, IP address, header, path, model, and provider levels“, arbeitet tokenbasiert und kann seit Version 3.8 Kosten errechnen, wenn der Administrator Input- und Output-Preise pro Million Token hinterlegt; bei Überschreitung antwortet das Gateway mit „HTTP/1.1 429“. Auf Plattformseite verspricht Konnect, LLM-Verkehr „down to the token, per model, per customer, per request“ zu messen, „hard and soft quotas, and automatic notifications“ bereitzustellen und „showback and chargeback for LLM, agent, and MCP usage“ aufzubauen, bis hin zu Rechnungen und ERP-Anbindung. Währungslogik, ein Response-Header mit den Kosten je Anfrage und ein CSV-Export sind in den geprüften Seiten nicht dokumentiert.

Das innFactory AI Gateway behandelt Kosten als eigenes Objekt statt als Rate Limit. Vier unabhängige Gates: Organisation (monatlich), Kostenstelle (monatlich plus Tages- und Wochenfenster), Nutzer und API-Key. Kostenstellen laufen im Pool- oder Pro-Nutzer-Modus, letzterer mit Pro-Kopf-Deckeln, die immer harte Stopps sind. Ist ein Budget erschöpft, antwortet das Gateway mit HTTP 402 (E4006) — oder leitet optional auf ein Fallback-Modell um. Dazu kommen Modell-Caps, TPM- und RPM-Limits, Warnungen bei 80 und 90 Prozent und ein budget_exceeded-Event für Webhooks. Preise kommen von ai-prices.eu und werden vor Übernahme vom Admin geprüft, die Anzeige erfolgt in EUR zum EZB-Tageskurs. Jede gepufferte Antwort trägt den Header x-aigateway-response-cost; Insights werten je Nutzer, Modell, Repository, Kostenstelle oder Tool aus, mit CSV-Export.

Coding-Agenten, Abos und Agent-Zeit

Kong dokumentiert unter „AI CLIs“ das Proxying von Claude Code, Codex CLI und Qwen Code CLI. Ein Cookbook beschreibt „Claude Code SSO“ mit Okta und Consumer-Group-basiertem Modell-Routing, ein weiteres GitHub Copilot über dessen BYOK-Endpunkt. Gemessen wird bei Kong, was durch das Gateway läuft; eine Zuordnung pro Repository ist nicht dokumentiert, OpenCode als Proxy-Ziel ebenfalls nicht. Laut den Dokumentationen von Kong (Stand 26.09.2026) ist ein lokaler Companion, der Agent-Zeit und Abo-Nutzung erfasst, nicht beschrieben.

Das innFactory AI Gateway liefert Setup-Generatoren für Claude Code, Codex, OpenCode, Cowork, VS Code Continue und VS Code Copilot (BYOK), jeweils mit eigenem Key und eigener Kostenstelle je Entwickler. Der Unterschied liegt im Companion aigw: ein kleiner Hintergrunddienst auf dem Entwicklerrechner (Linux, macOS, Windows), der die lokalen Session-Logs von Claude Code, Codex und OpenCode liest und Agent-Zeit, LLM-Zeit und Token-Klassen pro Repository, Nutzer, Tool und Kostenstelle meldet. Er erkennt, ob eine Session durch das Gateway lief oder auf dem Abo des Tools (Claude Max, ChatGPT/Codex-Plan); Abo-Nutzung wird zum Listenpreis bewertet, aber nie abgerechnet, budgetiert oder limitiert. Der Rollout läuft per Device-Code-Login oder über Enrollment-Tokens für Intune, macOS-Policy und Linux-Skript; aigw run startet Claude Code, Codex oder OpenCode mit einem kurzlebigen Proxy-Token.

Provider, Dialekte und Modelle

Hier ist Kong breiter. Die Provider-Seite nennt 19 Anbieter, darunter OpenAI, Azure AI, Amazon Bedrock, Gemini, Anthropic, Cohere, Hugging Face, Mistral, xAI, Databricks und vLLM; die Plugin-Dokumentation listet 17. Eingehend akzeptiert AI Proxy standardmäßig OpenAI-Formate und seit Version 3.10 native Formate für Anthropic, Bedrock, Cohere, Gemini, Vertex AI und Hugging Face. STACKIT und IONOS sind nicht dokumentiert. Zu Realtime- und Audio-Endpunkten treffen wir keine Aussage, weil wir die Referenz dazu zum Stand nicht abrufen konnten.

Das innFactory AI Gateway unterstützt 13 Provider-Typen: OpenAI, Azure OpenAI, Azure AI Foundry, Anthropic (direkt oder Vertex), Gemini (AI Studio oder Vertex inklusive EU-Endpunkt), Mistral, AWS Bedrock, STACKIT, IONOS, Ollama, LM Studio, ElevenLabs und OpenAI-kompatible Endpunkte. Eingehend spricht es drei Dialekte — OpenAI, Anthropic und Gemini — sowie Realtime-WebSocket für OpenAI, Azure OpenAI, ElevenLabs und Gemini Live, dazu Audio, Embeddings, Bilder und Files/Batches.

Governance: Guardrails, MCP, Routing und Flow Builder

Kongs Guardrails sind auf Plugins verteilt: AI Prompt Guard mit Regex-Listen und einem Filter gegen unsichtbare Zeichen, „that can hide prompt injection attempts“; AI Semantic Prompt Guard für semantische Themen-Listen; AI Sanitizer, der laut Dokumentation sensible Daten in Request- und Response-Bodies anonymisiert; weitere Plugins für externe Guardrail-Dienste sind auf der Übersichtsseite namentlich geführt. AI Proxy Advanced routet unter anderem nach Latenz, Auslastung, Priorität oder semantisch, mit Fallback über Providergrenzen hinweg. AI MCP Proxy arbeitet als „protocol bridge, translating between MCP and HTTP“ in vier Modi, authentifiziert über OpenID Connect oder Key Auth und regelt per Tool-ACLs, welche Consumer welche Tools sehen. Ein visueller Flow Builder ist nicht dokumentiert.

Das innFactory AI Gateway bündelt Guardrails in neun Regeltypen — Secret-Erkennung, PII-Block oder -Redaktion, verbotene Begriffe, Token- und Kostenlimit, Azure Content Safety, Prompt Injection, verbotene Themen, Groundedness und externer Webhook — mit Shadow-Modus, Redaktion im laufenden Stream und DSGVO-Preset. Der MCP-Proxy bietet acht Upstream-Auth-Modi (darunter Entra On-Behalf-Of und per-User OAuth PKCE), benannte Toolsets, semantische Tool-Suche und Guardrails auf Tool-Argumenten und -Ergebnissen. Routing umfasst einen Auto-Router nach Prompt-Komplexität, Aliase, Provider-übergreifende Fallbacks und Deployment-Gruppen. Der Flow Builder setzt darauf einen visuellen Graphen mit neun Strategien, Guardrail-Knoten mit pass-, block- und fail-Zweigen und Event-Triggern zu Webhooks; ein Flow ist wie ein Modell aufrufbar und belastet dieselben Budgets.

Was Kong AI Gateway besser kann

• API und KI in einer Control Plane. Policies und Sichtbarkeit spannen laut Anbieter über alle APIs und LLMs; bestehende Plugins für AuthN/Z und Traffic Control gelten auch für KI-Verkehr. Kong nennt über 100 Enterprise-Plugins.
• Deployment-Reife. Helm-Chart, Kubernetes-Installation, Hybrid-Modus mit mTLS, laut Anbieter auch VM und Bare Metal.
• Secret-Manager-Anbindung. HashiCorp Vault, Azure Key Vault und AWS Secrets Manager werden genannt.
• Provider-Breite, semantisches Caching und Routing. 17 bis 19 Provider, native Formate für Cohere und Hugging Face, AI Semantic Cache auf Redis, pgvector oder Valkey.
• Metering und Abrechnung gegenüber eigenen Kunden, laut Anbieter bis zu Rechnung und ERP-Anbindung.
• A2A. Kong führt neben LLM und MCP auch Agent-to-Agent-Verkehr auf.
• Support. Laut Anbieter ein „24/7/365 globally distributed support team along with professional services“.

Wann Kong AI Gateway die richtige Wahl ist

• Sie betreiben Kong bereits als API-Gateway und wollen KI-Verkehr mit denselben Policies, Plugins und Deployment-Mustern steuern.
• Sie brauchen Provider, die wir nicht als eigenen Provider-Typ führen, etwa Cohere, Hugging Face, Databricks oder Amazon SageMaker.
• Sie wollen KI-Nutzung gegenüber externen Kunden messen und abrechnen.
• Eine SaaS-Control-Plane mit eigenen Data Planes passt zu Ihren Vorgaben, oder Sie betreiben Kong Gateway Enterprise ohnehin selbst.

Wann das innFactory AI Gateway die richtige Wahl ist

• Sie wollen Control Plane und Datenpfad vollständig im eigenen Tenant, ohne SaaS-Komponente.
• Sie brauchen Kostenstellen mit Pool- oder Pro-Nutzer-Budgets, Pro-Kopf-Deckeln, EUR-Anzeige und einem Fallback-Modell statt einer harten Ablehnung.
• Sie wollen Agent-Zeit und Abo-Nutzung von Claude Code, Codex oder OpenCode pro Repository und Kostenstelle sehen — auch dort, wo kein Gateway im Pfad ist.
• Sie brauchen STACKIT, IONOS oder Realtime-Endpunkte hinter einem Gateway.
• Sie setzen CompanyGPT ein und wollen Identität, Budgets, Guardrails und MCP-Registry nur einmal pflegen.

Vergleich auf einen Blick

Fazit

Kong AI Gateway ist die konsequente Antwort eines API-Management-Anbieters auf KI-Verkehr: Wer Kong hat, bekommt LLM-, MCP- und Agentenverkehr in dieselbe Control Plane, mit demselben Plugin-Modell, derselben Deployment-Reife und einer Metering-Schicht bis zur Rechnung. Für Plattform-Teams mit Kong-Erfahrung ist das ein überzeugender Weg.

Das innFactory AI Gateway ist anders geschnitten: eine dedizierte Governance- und FinOps-Komponente vollständig im Tenant des Kunden, mit Kostenstellen, Pro-Kopf-Deckeln, EUR-Anzeige und einem Companion, der auch die Arbeit der Coding-Agenten erfasst, die nie durch ein Gateway läuft. Welche Antwort passt, hängt davon ab, ob KI-Verkehr für Sie ein weiteres Protokoll ist oder ein eigenes Steuerungsthema.

Nativ in CompanyGPT integriert, Stack wiederverwendbar

Das AI Gateway ist nativ mit CompanyGPT integriert: Dieselben Budgets, Kostenstellen und Guardrails gelten für Chat, Agenten und Add-ons. Identität über Entra ID oder Keycloak, Kostenstellen, Guardrails und die MCP-Registry sind ein Stack, der in CompanyGPT, im Gateway und in Ihren eigenen Anwendungen wiederverwendet wird. Das Gateway lässt sich ebenso eigenständig betreiben. Details finden Sie auf der Seite zum AI Gateway, weitere Gegenüberstellungen unter alle Vergleiche.

Quellen

Abgerufen am 26. September 2026:

• Kong AI Gateway Produktseite — https://konghq.com/products/kong-ai-gateway
• Kong Nutzungsbedingungen (Firmensitz) — https://konghq.com/legal/terms-of-use
• Kong Unternehmensseite (Gründung, Übernahmen) — https://konghq.com/company
• Kong AI Gateway Dokumentation (Tier-Hinweis) — https://developer.konghq.com/ai-gateway/
• Kong Gateway Repository (Lizenz, Architektur) — https://github.com/Kong/kong
• Ankündigung Kong AI Gateway und Open-Source-Plugins — https://konghq.com/blog/product-releases/announcing-kong-ai-gateway
• AI Proxy Plugin — https://developer.konghq.com/plugins/ai-proxy/
• AI Proxy Advanced Plugin — https://developer.konghq.com/plugins/ai-proxy-advanced/
• AI Rate Limiting Advanced Plugin — https://developer.konghq.com/plugins/ai-rate-limiting-advanced/
• AI Semantic Cache Plugin — https://developer.konghq.com/plugins/ai-semantic-cache/
• AI Prompt Guard Plugin — https://developer.konghq.com/plugins/ai-prompt-guard/
• AI Semantic Prompt Guard Plugin — https://developer.konghq.com/plugins/ai-semantic-prompt-guard/
• AI Sanitizer Plugin — https://developer.konghq.com/plugins/ai-sanitizer/
• AI MCP Proxy Plugin — https://developer.konghq.com/plugins/ai-mcp-proxy/
• Konnect Netzwerk (Control Plane und Data Plane) — https://developer.konghq.com/konnect-platform/network/
• Kong Gateway auf Kubernetes (On-Prem) — https://developer.konghq.com/gateway/install/kubernetes/on-prem/
• Kong Helm Charts — https://github.com/Kong/charts
• Konnect SSO — https://developer.konghq.com/konnect-platform/sso/
• Konnect Teams und Rollen — https://developer.konghq.com/konnect-platform/teams-and-roles/
• Konnect Usage-Based Metering and Billing — https://konghq.com/products/kong-konnect/features/usage-based-metering-and-billing
• Kong AI Manager Ankündigung — https://konghq.com/blog/product-releases/kong-ai-manager
• AI CLIs (Claude Code, Codex CLI, Qwen Code CLI) — https://developer.konghq.com/ai-gateway/ai-clis/
• Kong Cookbooks — https://developer.konghq.com/cookbooks/
• GitHub Copilot BYOK Cookbook — https://developer.konghq.com/cookbooks/github-copilot-byok/
• AI Providers — https://developer.konghq.com/ai-gateway/ai-providers/
• Kong AI Gateway Alternatives (Plugins, Secret Manager, Support) — https://konghq.com/performance-comparison/ai-gateway-alternatives

Hinweis zu den Angaben: Alle Aussagen über Produkte anderer Anbieter beruhen auf deren öffentlich zugänglicher Dokumentation zum angegebenen Stand. Anbieter entwickeln ihre Produkte, Funktionen und Konditionen laufend weiter — maßgeblich sind stets die aktuellen Angaben des jeweiligen Anbieters. Sollte Ihnen eine Angabe veraltet oder unzutreffend erscheinen, schreiben Sie uns kurz an info@innfactory.ai; wir prüfen und korrigieren zeitnah. Dieser Vergleich ersetzt keine Rechts- oder Datenschutzberatung im Einzelfall.

Weiterführende Artikel

• AI Gateway – Governance, FinOps und Companion im Überblick
• CompanyGPT – die Plattform, mit der das Gateway nativ integriert ist
• Claude Code als AI Harness – was der Coding-Agent kann und wie er über das Gateway läuft
• AI Harness erklärt – Grundlagen zu KI-Agenten und Harnesses
• Alle Vergleiche zum AI Gateway – LiteLLM, OpenRouter, Portkey, Cloudflare, Kong, Bifrost, TrueFoundry, Helicone, Vercel
• AI Gateway vs. LiteLLM
• AI Gateway vs. Bifrost (Maxim AI)
• AI Gateway vs. Helicone