Verständnis der Preisgestaltung des Portkey AI Gateways für 2026: Vollständiger Leitfaden & Vergleich

Die Wahl des richtigen AI-Gateways für produktive KI-Anwendungen erfordert nicht nur ein Verständnis der Funktionen, sondern auch der Skalierung der Kosten bei zunehmender Nutzung. Portkey AI hat sich als beliebte Wahl für Startups und Plattform-Teams etabliert, doch das einzigartige Preismodell, das auf „aufgezeichneten Logs“ basiert, kann verwirrend sein.

Dieser umfassende Leitfaden schlüsselt die Portkey-Preise für 2026 auf, erklärt, wofür Sie tatsächlich bezahlen, und hilft Ihnen bei der Entscheidung, ob Portkey die richtige Wahl ist oder ob Alternativen wie TrueFoundry, LiteLLM oder Kong Ihre Anforderungen besser erfüllen könnten.

Was ist das Portkey AI Gateway?

Das Portkey AI Gateway ist eine produktionsreife KI-Infrastrukturplattform, die eine einheitliche Schnittstelle für den Zugriff auf über 250 verschiedene Modelle von Anbietern wie OpenAI, Anthropic, Google, AWS Bedrock, Azure und weiteren bietet. Es fungiert als Kontrollzentrum für die Verwaltung, das Routing und die Überwachung von LLM-Anfragen in Produktionsumgebungen.

Das Portkey Gateway positioniert sich als „Kontrollzentrum für produktive KI“ mit Funktionen, die speziell für Teams entwickelt wurden, die von der Proof-of-Concept-Phase in die Produktion übergehen. Die Plattform bietet eine einheitliche API-Schnittstelle mit einem einzigen Endpunkt für den Zugriff auf über 250 Modelle verschiedener Anbieter mit standardisierten Anfrage- und Antwortformaten.

Die Observability-Suite bietet detaillierte Protokolle, Tracing, Analysen und Kostenverfolgung für jede LLM-Anfrage. Zu den Zuverlässigkeitsfunktionen gehören automatische Fallbacks, Lastverteilung, bedingtes Routing, Wiederholungslogik und Circuit Breaker, um Modellausfälle zu verhindern. Die Optimierung der Produktionsleistung erfolgt durch semantisches Caching und einfaches Caching, um Latenzzeiten und Kosten zu reduzieren.

Die Plattform verfügt in der Enterprise-Stufe über SOC2 Type 2-, ISO 27001-, GDPR- und HIPAA-Zertifizierungen und verspricht eine Integrationszeit von 2 Minuten mit sofortiger Überwachung aller LLM-Aufrufe. Portkey AI richtet sich an Startups, die in die Produktion skalieren, sowie an mittelständische Unternehmen, die eine verwaltete KI-Infrastruktur benötigen, ohne die Komplexität von selbst gehosteten Open-Source-Lösungen.

Wie geht Portkey generell mit der Preisgestaltung um?

Im Gegensatz zu herkömmlichen API-Gateways, die auf Basis von Anfragen oder Rechenressourcen abrechnen, nutzt Portkey ein nutzungsbasiertes Preismodell, das sich auf „aufgezeichnete Logs“ konzentriert – eine Kennzahl, die für auf Observability fokussierte AI-Gateway-Lösungen einzigartig ist.

Die Preisgestaltung von Portkey spiegelt die Positionierung als eine auf Observability ausgerichtete Plattform wider. Während das Gateway selbst Anfragen an LLM-Anbieter weiterleitet, für die Sie separat bezahlen, berechnet Portkey hauptsächlich drei Komponenten:

• Aufgezeichnete Logs:Die Anzahl der LLM-Anfragen, die in ihrem Observability-System erfasst werden.
• Aufbewahrungsdauer:Wie lange Protokolle und Metadaten gespeichert werden.
• Erweiterte Funktionen:Premium-Funktionen wie semantisches Caching, erweitertes Routing und Governance.

Dieses Modell funktioniert gut für Teams, die eine umfassende Überwachung wünschen, kann aber bei hoher Skalierung teuer werden, insbesondere wenn Sie eine langfristige Protokollaufbewahrung benötigen oder hohe Anfragevolumina generieren.

Wenn Sie für Portkey bezahlen, finanzieren Sie eine verwaltete Edge-Deployment-Infrastruktur mit einer Verfügbarkeitsgarantie (SLA) von 99,99 % und einem Latenz-Overhead von 20–40 ms, die Observability-Plattform für die Speicherung, Indizierung und Abfrage von Anfrageprotokollen, Traces und Analysen, den Zugriff auf erweiterte Routing-Strategien, semantisches Caching, Prompt-Management und Guardrails, Support – je nach Stufe von Community- bis hin zu Produktions- oder Enterprise-Level – sowie eine Compliance-Infrastruktur inklusive Sicherheitszertifizierungen wie SOC2 und HIPAA.

Wichtiger Hinweis:Die Preisgestaltung von Portkey ist unabhängig von den Kosten Ihres LLM-Anbieters. Das bedeutet, dass Sie OpenAI, Anthropic und andere Anbieter weiterhin direkt für die Modellnutzung bezahlen, während Portkey als Middleware-Ebene darüber fungiert.

Die einzigartige Abrechnungsmetrik: „Aufgezeichnete Logs“

Der markanteste Aspekt der Preisgestaltung von Portkey ist die Abrechnung auf Basis aufgezeichneter Logs anstelle von reinen API-Anfragen. Das Verständnis dieser Metrik ist entscheidend für die Kostenschätzung. Ein aufgezeichneter Log repräsentiert eine einzelne LLM-API-Anfrage, die Portkey erfasst, speichert und in Ihrem Observability-Dashboard verfügbar macht.

Jeder Log enthält Anfragemetadaten (Zeitstempel, Benutzer, Anwendung), Prompt- und Antwortinhalte (sofern nicht explizit aus Datenschutzgründen ausgeschlossen), Informationen zu Anbieter und Modell, Latenz- und Leistungsdaten, Kostenberechnungen, benutzerdefinierte Metadaten und Tags sowie Verstöße gegen Guardrails oder Fehler.

Aufgezeichnete Logs vs. Gesamtanfragen

Der entscheidende Unterschied zwischen aufgezeichneten Logs und Gesamtanfragen besteht darin, dass das Portkey-Gateway Anfragen auch dann weiterleitet, wenn Sie Ihr Log-Limit überschritten haben. Ihr Gateway stellt den Betrieb nicht ein; Sie hören lediglich auf, neue Logs für die Observability aufzuzeichnen. Dies ist sowohl ein Vorteil als auch eine Einschränkung. Der Vorteil ist, dass Ihre produktive Anwendung aufgrund von Log-Limits niemals ausfällt. Die Einschränkung besteht darin, dass Sie die Sichtbarkeit für Anfragen jenseits Ihres Log-Limits verlieren, was den Zweck einer Observability-Plattform zunichtemacht.

Wie Log-Limits über die Tarife skalieren

Beispiel für eine Kostenberechnung

Wenn Ihr Startup beispielsweise 500.000 LLM-Anfragen pro Monat generiert, erfasst der Dev-Plan nur die ersten 10.000 Anfragen kostenlos, aber 98 % des Datenverkehrs bleiben unsichtbar. Der Pro-Plan beinhaltet 100.000 Logs im Grundpreis, erfordert 400.000 zusätzliche Logs und kostet den Grundpreis plus (4 × 9 $) = Grundpreis plus 36 $ pro Monat für die Log-Abdeckung.

Bei 500.000 Anfragen pro Monat generieren Sie wahrscheinlich beträchtliche Umsätze und benötigen volle Transparenz, weshalb der Pro-Tarif unerlässlich wird, wobei die Preisgestaltung von Portkey linear mit dem Datenverkehr skaliert.

Was passiert, wenn Sie die Log-Limits erreichen

Das Verständnis dafür, wie sich das Preisverhalten von Portkey bei Erreichen der Log-Limits ändert, ist für die Produktionsplanung entscheidend.

Technisches Verhalten

• Gateway arbeitet weiter:Ihre LLM-Anfragen werden weiterhin normal weitergeleitet und verarbeitet.
• Logging stoppt:Neue Anfragen, die über das Limit hinausgehen, werden nicht im Observability-Dashboard aufgezeichnet.
• Keine Warnungen oder Fehler:Benutzer erleben keinerlei funktionale Beeinträchtigungen oder unerwartete Ausgaben.
• Entstehende blinde Flecken:Sie verlieren die Sichtbarkeit von Performance, Kosten, Fehlern und Nutzungsmustern für nicht protokollierte Anfragen.

Geschäftliche Auswirkungen nach Tarif

Für kleine Teams im Dev-Tarif entsprechen 10.000 monatliche Protokolle etwa 330 Anfragen pro Tag. Wenn Sie diesen Wert regelmäßig überschreiten, bleibt der Großteil Ihres Produktions-Traffics im Dunkeln, was ein Upgrade auf Pro für jede ernsthafte Produktionsumgebung erforderlich macht.

Wachsende Startups im Pro-Tarif müssen ihre Nutzung genau überwachen, um das Basislimit von 100.000 Protokollen nicht zu überschreiten. Jede weiteren 100.000 Protokolle kosten 9 $, was zwar überschaubar ist, sich aber schnell summiert. Ab 1 Million Anfragen pro Monat sollten Sie den Enterprise-Tarif für eine bessere Wirtschaftlichkeit in Betracht ziehen.

Für Unternehmen werden individuelle Protokoll-Limits basierend auf dem Volumen ausgehandelt – typischerweise ab 10 Millionen Protokollen mit Mengenrabatten und konfigurierbaren Aufbewahrungsfristen, die für die Compliance entscheidend sind.

Übersicht der Portkey-Preispläne

Werfen wir einen Blick auf die verschiedenen Portkey-Preispläne:

Dev-Plan (Dauerhaft kostenlos)

• Preis:0 $/Monat |Aufgezeichnete Logs:10.000/Monat (30 Tage Aufbewahrung)
• Am besten geeignet für:Prototyping, Hackathons, POC-Evaluierung

Der Dev-Plan umfasst den einheitlichen API-Zugriff auf über 250 Modelle, grundlegende Observability (Protokolle, Traces, Feedback, Metadaten), automatische Fallbacks, Load Balancing, einfaches Caching (1 Tag TTL), bis zu 3 Prompt-Vorlagen und Community-Support. Da jedoch nur 10.000 Anfragen pro Monat sichtbar sind (etwa 330 pro Tag) und Funktionen wie semantisches Caching, Warnmeldungen, erweiterte Dashboards sowie Benutzerzugriffssteuerung fehlen, ist er für produktive Anwendungen nicht ausreichend.

Pro-Plan (Produktionsbereit)

• Preis:Individuelle Preise (kontaktieren Sie den Vertrieb) |Basis:100.000 Protokolle + 9 $ pro 100.000 zusätzliche (bis zu 3 Mio. insgesamt)
• Am besten geeignet für:Startups, die LLM-Anwendungen in der Produktion einsetzen, Teams mit < 3 Mio. monatlichen Anfragen

Der Pro-Plan ergänzt detaillierte Observability (Warnmeldungen, FinOps-Dashboard, Analysen), semantisches Caching mit unbegrenzter TTL, unbegrenzte Prompt-Vorlagen mit Versionskontrolle, Benutzerzugriffssteuerung sowie Produktions-Support mit Standard-SLA. Zu den wesentlichen Einschränkungen gehören das Limit von 3 Millionen monatlichen Protokollen, eine Aufbewahrungsfrist von nur 30 Tagen sowie das Fehlen von VPC-Deployment, SSO und erweitertem RBAC.

Kostenbeispiele:500.000 Anfragen = Basis + 36 $/Monat | 1 Mio. Anfragen = Basis + 81 $/Monat | 2 Mio. Anfragen = Basis + 171 $/Monat

Enterprise-Tarif (individuelle Preisgestaltung)

• Preis:Individuell (Vertrieb kontaktieren) |Logs:10 Mio.+ mit Mengenrabatten (individuelle Aufbewahrungsdauer 90+ Tage)
• Am besten geeignet für:Großunternehmen, regulierte Branchen, hochvolumige Produktion

Der Enterprise-Tarif umfasst alle Funktionen des Pro-Tarifs sowie erweiterte Governance (RBAC, SSO, granulare Budgets), Enterprise-Infrastruktur (Private Cloud, VPC-Hosting, Datenexport, Datenisolierung), Compliance-Zertifizierungen (SOC2, ISO 27001, DSGVO, HIPAA, individuelle BAAs), priorisierten 24/7-Support mit garantierten Reaktionszeiten sowie drei Bereitstellungsoptionen (Managed SaaS, Hybrid oder vollständig isoliert/Air-Gapped).

TypischerweiseDie Preisgestaltung von Portkeyzwischen 2.000 und 10.000+ $/Monat, abhängig von Volumen, Aufbewahrungsdauer, Bereitstellungsmodell und Support-Level.

Portkey-Preise im Vergleich zu Wettbewerbern (2026)

Ein Verständnis dafür, wie die Preisgestaltung von Portkey im Vergleich zu Alternativen abschneidet, hilft Ihnen dabei, die beste Lösung für Ihren Anwendungsfall zu finden.

Vollständige Preisvergleichstabelle

Funktionsvergleichsmatrix

Wenn Sie führende Anbieter von KI-Gateways evaluieren, finden Sie hier einen Vergleich:

• TrueFoundry:Am besten geeignet für Unternehmen, die Governance bereits im Pro-Tarif (499 $) benötigen, volle MCP-Gateway-Unterstützung für agentische KI-Workflows sowie unbegrenzte Protokollierung in allen Tarifen. VPC-Bereitstellung im Enterprise-Tarif verfügbar. Ideal für mittelständische bis große Unternehmen, die KI-Agenten für die Produktion entwickeln.

Your AI Platform Needs One Gateway, Not Five Tools Stitched Together

Start with TrueFoundry and get your LLM, MCP, and Agent Gateway running as a single governed platform

Start Free

• Portkey:Am besten geeignet für Startups mit weniger als 1 Mio. Anfragen pro Monat, die Managed Services für einen schnellen Start benötigen. Das exzellente Observability-Dashboard und die 2-Minuten-Integration machen es ideal für Teams ohne DevOps-Expertise, bei denen die Time-to-Market im Vordergrund steht.
• LiteLLM:Am besten geeignet für Self-Hosting und LLM-Bereitstellungen mit hohem Volumen (5 Mio.+ Anfragen/Monat) bei vorhandenen DevOps-Teams. Open-Source mit unbegrenzten Anfragen, bietet jedoch keine starken Enterprise-SLAs und erfordert Expertise im Infrastrukturmanagement.
• Kong:Berechnet 100 $ pro Modell und Monat (maximal 5 im Plus-Tarif), was für Teams mit einer Standardisierung auf 1-3 Modelle gut funktioniert, bei Multi-Modell-Strategien jedoch teuer werden kann. Hat sich vom API-Gateway zum KI-Gateway weiterentwickelt. Am besten geeignet für bestehende Kong-Nutzer, die neben KI-Gateway-Funktionen auch eine API-Management-Integration benötigen.

Ebenfalls lesen: Portkey vs. LiteLLM

Wann sich die Preisgestaltung des Portkey AI Gateways lohnt

Die Preisgestaltung von Portkey macht es zur richtigen Wahl für bestimmte Organisationsprofile und GenAI-Anwendungsfälle.

Startups in der Frühphase (Pre-Seed bis Series A)

Startups in der Frühphase mit 3 bis 5 Personen, die KI-gestützte Produkte entwickeln, profitieren davon, dass die kostenlosen 10.000 Logs pro Monat für das erste Prototyping ausreichen, die 2-minütige Integration weniger Entwicklungszeit für die Infrastruktur erfordert, der Pro-Tarif von der Beta- bis zur ersten Produktionsphase skaliert und der Managed Service Infrastrukturprobleme eliminiert. Kostenprofile von 0 bis 500 $ pro Monat im ersten Jahr sind für VC-finanzierte Startups gut tragbar.

Teams ohne DevOps-Expertise

Teams ohne DevOps-Expertise profitieren dann, wenn die Entwicklungsteams zwar stark im Entwicklungsprozess sind, ihnen aber die Erfahrung mit Kubernetes, Docker oder Cloud-Infrastruktur fehlt, wodurch das Self-Hosting von LiteLLM die Einstellung oder Schulung von Personal erfordern würde.

Das Portkey AI Gateway bietet eine vollständig verwaltete Infrastruktur mit einer Verfügbarkeitsgarantie (SLA) von 99,99 % – ohne dass Server, Skalierung, Überwachung oder Updates selbst verwaltet werden müssen. Sicherheit und Compliance werden von Portkey übernommen, und bei Problemen steht ein Support-Team zur Verfügung.

Das Self-Hosting von LiteLLM erfordert DevOps-Expertise im Wert von 120.000 bis 180.000 USD pro Jahr. Wenn Sie über diese Kapazitäten nicht verfügen, ist der Portkey Pro-Tarif mit 3.000 bis 6.000 USD pro Jahr deutlich günstiger.

Mittleres Anfragevolumen (100.000 – 2 Mio./Monat)

Für Teams mit einem mittleren Anfragevolumen zwischen 100.000 und 2 Millionen pro Monat, die das Prototyping-Stadium hinter sich gelassen haben, aber noch nicht im massiven Maßstab agieren, ist die Preisgestaltung von Portkey wettbewerbsfähig. Bei 9 USD pro 100.000 Logs ist dies ein angemessener Preis für die gebotene Observability und zudem leichter zu budgetieren als unvorhersehbare Infrastrukturkosten.

Bei 500.000 Anfragen pro Monat sind die zusätzlichen 36 USD an Log-Kosten gut zu bewältigen, und bei 1 Million Anfragen pro Monat sind die zusätzlichen 81 USD ebenfalls vertretbar. Ab 3 Millionen Anfragen pro Monat werden Wettbewerber mit unbegrenzter Protokollierung wie TrueFoundry oder Self-Hosted-Optionen wie LiteLLM wirtschaftlicher.

Warum Teams mit hohem Skalierungsbedarf über Portkey hinausblicken

Wenn KI-Anwendungen von Tausenden auf Millionen monatlicher Anfragen skalieren, führen die Preismodelle und architektonischen Entscheidungen von Portkey bei wachstumsstarken Teams zu Reibungsverlusten.

Log-Limits führen zu operativen blinden Flecken

Log-Limits verursachen operative blinde Flecken, da neue Anfragen nicht mehr aufgezeichnet werden, sobald das Limit erreicht ist – Ihre Observability-Plattform hört dann auf zu beobachten. Wenn Ihre App 5 Millionen Anfragen pro Monat generiert und Portkey AI Pro bei 3 Millionen Logs gedeckelt ist, bleiben 40 % Ihres Traffics in den Dashboards unsichtbar.

Sie können Probleme, die 2 Millionen Anfragen pro Monat betreffen, nicht debuggen, und Kostenanalysen werden unzuverlässig, da 40 % der Ausgabendaten fehlen. Der Enterprise-Workaround erfordert die Zahlung von 5.000 bis 10.000 USD pro Monat für den Enterprise-Tarif mit Limits von über 10 Millionen Logs, während Wettbewerber unbegrenzte Protokollierung zu niedrigeren Preisen anbieten.

30 Tage Aufbewahrungsfrist sind für Compliance-Anforderungen unzureichend

Eine Aufbewahrungsfrist von 30 Tagen reicht für die Compliance in vielen regulierten Branchen nicht aus. Das Gesundheitswesen erfordert unter HIPAA 6+ Jahre für medizinische Unterlagen, Finanzdienstleistungen unter SOX 7+ Jahre für Transaktionsprotokolle und Regierungsaufträge mindestens 3+ Jahre.

Die Gateway-Funktionen von Portkey im Pro-Tarif bieten nur 30 Tage, während der Enterprise-Tarif eine benutzerdefinierte Aufbewahrung zu Premium-Preisen ermöglicht. TrueFoundry bietet eine benutzerdefinierte Aufbewahrung bereits im Pro-Tarif für 499 USD an, und bei LiteLLM ist die Aufbewahrung unbegrenzt, da Sie die Speicherung selbst kontrollieren.

Fehlendes MCP-Gateway für Agentic AI

Das fehlende Portkey MCP-Gateway für Agentic AI stellt eine erhebliche Lücke dar. Bis 2026 werden agentenbasierte KI-Workflows zum Standard, und das Model Context Protocol (MCP) ermöglicht es KI-Agenten, sicher Werkzeuge zu nutzen, auf Datenbanken zuzugreifen und mit externen Systemen zu interagieren.

Portkey bietet nur eingeschränkten MCP-Support und hat MCP-Gateway-Funktionen bisher nicht priorisiert. Das bedeutet, dass Sie keine komplexen agentenbasierten Workflows aufbauen können, wie etwa KI-Agenten, die interne Datenbanken mit benutzerspezifischen Berechtigungen abfragen, Tool-Nutzung mit OAuth-Token-Injection oder virtuelle MCP-Server, die komplexe Tool-Ketten abstrahieren.

TrueFoundry bietet ein vollständiges MCP-Gateway mit Unterstützung für virtuelle Server, OAuth 2.0-Identitäts-Injection (bei der Agenten im Namen spezifischer Benutzer handeln), 99 % Einsparung bei Inferenz-Token durch aktive Tool-Nutzung statt Context-Stuffing sowie eine Latenz von etwa 10 ms für Tool-Aufrufe.

Eingeschränkte Governance bis zum Enterprise-Tarif

Die eingeschränkte Governance bis zum Enterprise-Tarif schafft Herausforderungen, da moderne KI-Operationen eine rollenbasierte Zugriffskontrolle (RBAC) für Modelle, Budgetkontrollen pro Team, Benutzer oder Anwendung, Ratenbegrenzungen pro Benutzer oder Abteilung sowie benutzerdefinierte Leitplanken und Inhaltsfilter erfordern.

Das Portkey Enterprise AI Gateway schließt diese Funktionen hinter dem Enterprise-Tarif ein. Das bedeutet, dass Kunden im Pro-Tarif grundlegende Governance-Funktionen fehlen, was Ausgaben von etwa 2.000 bis 5.000 USD pro Monat für entsprechende Kapazitäten erfordert. TrueFoundry bietet RBAC bereits im Pro-Tarif für 499 USD pro Monat an, ebenso wie Budgetkontrollen und Ratenbegrenzungen, wodurch Governance auch kleineren Teams früher in ihrer Wachstumsphase zugänglich ist.

Warum ist TrueFoundry eine leistungsstarke Alternative?

Für Teams, die bei Portkey an ihre Grenzen stoßen – insbesondere bei Log-Limits, MCP-Unterstützung und Governance-Funktionen – bietet TrueFoundry eine überzeugende Alternative mit grundlegend anderen architektonischen Ansätzen und Preismodellen.

Grundlegende philosophische Unterschiede

Governance-Funktionen im Pro-Tarif (499 $/Monat)

TrueFoundry bietet im Pro-Tarif für 499 US-Dollar pro Monat Governance-Funktionen, die rollenbasierte Zugriffskontrolle (RBAC) für Modelle, Budgetkontrollen pro Nutzer, Team oder Anwendung, flexible Ratenbegrenzungsrichtlinien, virtuelle Modelle zur Abstraktion, benutzerdefiniertes Metadaten-Logging sowie eine fein abgestufte Zugriffskontrolle umfassen.

Ein Startup mit 20 Mitarbeitern kann eine produktionsreife Governance für 499 US-Dollar pro Monat implementieren, anstatt über 5.000 US-Dollar pro Monat für das Enterprise AI Gateway von Portkey zu zahlen – so wird KI-Governance auch für kleinere Teams erschwinglich.

Vollständige MCP-Gateway-Unterstützung

Die vollständige MCP-Gateway-Unterstützung von TrueFoundry ist das wichtigste Unterscheidungsmerkmal für agentische KI-Anwendungsfälle im Jahr 2026.

Was das MCP-Gateway von TrueFoundry ermöglicht:

• Virtuelle MCP-Server-Abstraktion:Erstellen Sie logische Server wie einen „Finance Agent Server“, der mehrere Tools bereitstellt, leiten Sie Tool-Aufrufe über ein zentral verwaltetes Gateway und bündeln Sie Tools wie Datenbankabfragen, API-Aufrufe und Dateizugriffe in kohärenten Agenten-Schnittstellen.
• OAuth 2.0 Identitäts-Injektion:Agenten handeln im Namen spezifischer Nutzer und setzen bei jedem Tool-Aufruf nutzerspezifische Berechtigungen durch. Dies macht geteilte Superuser-Anmeldedaten überflüssig und stellt sicher, dass Agenten als bestimmte Nutzer (z. B. Alice) agieren und nur auf deren Daten zugreifen können.
• Hybride Bereitstellung:Tools für sensible Daten verbleiben lokal (On-Premise) oder in der VPC, während die LLM-Logik in der Cloud stattfindet – das Gateway orchestriert dabei die Kommunikation über diese Grenzen hinweg.
• Kosteneffizienz:99 % Ersparnis bei Inferenz-Tokens im Vergleich zu „Context Stuffing“, Senkung der Kosten für typische Agenten-Durchläufe von 0,50 $ auf 0,005 $ und Nutzung aktiver Tool-Aufrufe anstelle von passivem Kontext-Lesen.
• Leistung:Etwa 10 ms Latenz-Overhead, Verarbeitung von über 350 Anfragen pro Sekunde auf einer vCPU und Unterstützung für horizontales Skalieren.

VPC- und On-Premise-Bereitstellung für Unternehmen

TrueFoundry ermöglicht eine nahtlose Bereitstellung in VPCs und On-Premise-Umgebungen. Regulierte Branchen benötigen ihre Daten von Anfang an in der eigenen VPC; TrueFoundry bietet hierfür VPC- und Air-Gapped-Optionen für Unternehmen mit strengen SLAs.

Lassen Sie sich bei Ihrer Transparenz nicht durch Preise einschränken

Portkey ist eine hervorragende Wahl für Teams, die schnell starten möchten, doch die beobachtbarkeitsbasierte Preisgestaltung kann bei steigendem Anfragevolumen schnell zum Engpass werden. Wenn Sie pro Log abgerechnet werden, stehen Sie oft vor einer schwierigen Wahl: Entweder Sie zahlen einen Aufpreis für volle Transparenz oder Sie riskieren, bei kritischen Produktionsvorfällen im Blindflug zu agieren, um das Budget einzuhalten.

TrueFoundry bietet einen anderen Weg. Indem wir das Gateway von der zugrunde liegenden Rechenleistung entkoppeln und unbegrenzte Beobachtbarkeit zu einer monatlichen Pauschale anbieten, stellen wir sicher, dass Ihre Architektur Transparenz fördert, anstatt sie zu bestrafen. Sie erhalten RBAC auf Unternehmensniveau, Budgetkontrollen und die volle Datenhoheit ohne die „Erfolgssteuer“ einer Abrechnung pro Log.

Bereit, Ihre KI-Anwendungen ohne versteckte Kosten zu skalieren?Buchen Sie eine Demo mit TrueFoundrynoch heute, um zu erfahren, wie wir unbegrenzte Beobachtbarkeit und Governance zu einer vorhersehbaren Pauschalgebühr liefern.

Häufig gestellte Fragen

Berechnet Portkey neben der Log-Aufzeichnung auch API-Anfragen?

Nein, Portkey berechnet nur die aufgezeichneten Logs basierend auf Ihrem Tarif sowie den Funktionszugriff für Pro- und Enterprise-Tarife. Sie bezahlen Ihre LLM-Anbieter wie OpenAI und Anthropic separat für die tatsächliche Modellnutzung, während Portkey als Middleware-Schicht für Routing und Beobachtbarkeit fungiert.

Was passiert mit meinen Anfragen, wenn ich das Log-Limit von Portkey überschreite?

Ihre Anfragen werden weiterhin normal an die LLM-Anbieter weitergeleitet, und das Gateway arbeitet ohne Unterbrechung weiter. Was aufhört, ist die Aufzeichnung neuer Logs im Beobachtbarkeits-Dashboard. Das bedeutet, Sie verlieren die Sichtbarkeit auf Anfrage- und Antwortinhalte, die Kostenverfolgung für diese Anfragen, Leistungsmetriken und Latenzzeiten sowie die Fehlerüberwachung und das Debugging.

Kann ich das Portkey AI Gateway selbst hosten?

Ja, aber nur mit dem Enterprise-Plan über eine Air-Gapped-Bereitstellungsoption. Alternativen sind LiteLLM, das vollständig Open-Source ist und kostenlos auf jeder Infrastruktur selbst gehostet werden kann, sowie TrueFoundry, das VPC- und On-Premises-Bereitstellungen ab dem Pro-Tarif für 499 $ pro Monat anbietet.

Unterstützt Portkey MCP (Model Context Protocol) für agentische KI?

Stand 2026 bietet Portkey nur eingeschränkte MCP-Unterstützung und hat Portkey-MCP-Gateway-Funktionen noch nicht priorisiert. Für eine vollständige MCP-Unterstützung bietet TrueFoundry ein voll funktionsfähiges MCP-Gateway mit virtuellen Servern, OAuth-Injection und hybrider Bereitstellung; Kong bietet zudem ein MCP-Proxy-Plugin im Enterprise-Tarif an.

Wie funktioniert die 30-tägige Log-Aufbewahrung bei Portkey?

Logs im Pro-Tarif werden 30 Tage lang aufbewahrt und dann automatisch gelöscht, während der Enterprise-Tarif individuelle Aufbewahrungsfristen von 90+ Tagen, 1 Jahr oder länger bietet, die verhandelt werden können. Viele Branchen erfordern längere Aufbewahrungsfristen, darunter das Gesundheitswesen mit 6+ Jahren, Finanzdienstleistungen unter SOX mit 7+ Jahren für Transaktionslogs und Regierungsaufträge mit mindestens 3+ Jahren.

Lässt sich TrueFoundry in meinen bestehenden Workflow integrieren?

Ja, TrueFoundry lässt sich in gängige Tools wie GitHub für die Versionskontrolle, die Verwaltung von PRs (Pull Requests) und die Pflege der Dokumentation für Ihre Modelle integrieren. Sie können außerdem Timeouts für lang laufende Audio- oder Chat-Generierungsaufgaben konfigurieren und Python-SDKs für benutzerdefinierte Integrationen verwenden.

Bietet TrueFoundry erweiterte Funktionen wie Caching und Tests?

TrueFoundry bietet die beste Caching-Lösung mit semantischen Fähigkeiten zur Kostensenkung. Zudem unterstützt es robuste Test-Frameworks, um die Modellqualität vor der Bereitstellung sicherzustellen, und bietet detaillierte Beobachtbarkeitsfunktionen sowie ausführliche Logs, die klare Einblicke in Ihre KI-Leistung geben. Dies bietet sofortigen Mehrwert und macht für einen Senior ML Engineer, der komplexe Systeme verwaltet, einen riesigen Unterschied. Jeder Nutzer wird das Maß an Transparenz als unschätzbar wertvoll empfinden, um unerwartete Ausgaben in der Produktion zu verhindern.