Blank white background with no objects or features visible.

Hallo EMEA! TrueFoundry baut seine Präsenz in Europa, dem Nahen Osten und Afrika weiter aus. Mehr erfahren. →

Was ist ein Modellkatalog? Steuerung, welche LLMs Ihre Teams nutzen dürfen

Published: November 20, 2026

TL;DR
  • Ein Modellkatalog ist die kuratierte, verwaltete Liste von Modellen, die Ihre Teams aufrufen dürfen, wobei jeder Eintrag ein logischer Modellname ist, an den Richtlinien geknüpft sind: wer es nutzen darf, das Budget, die Rate Limits, die Datenresidenz-Region und die Guardrails.
  • Er ist kein Modellregister (Model Registry). Ein Register speichert trainierte Modell-Artefakte (Gewichte, Versionen, Lineage, Staging) für Modelle, die Sie selbst trainieren. Ein Katalog steuert den Zugriff auf die Modelle, die Ihre Teams nutzen – einschließlich Drittanbieter-APIs. Unterschiedliches Problem, unterschiedliches Werkzeug.
  • Das Problem, das er löst, ist die ungesteuerte Modell-Wildwuchs (Model Sprawl): Schattenmodelle, die niemand genehmigt hat, überraschende Rechnungen, die niemand zuordnen kann, und Compliance-Lücken, wenn Prompts eine genehmigte Region verlassen oder die PII-Schwärzung umgehen.
  • Der Katalog befindet sich im Gateway, sodass Richtlinien an den logischen Modellnamen gebunden sind und nicht im Anwendungscode verstreut liegen. Ändern Sie die Richtlinie einmal, und jeder Aufrufer übernimmt sie automatisch.
  • Der Gewinn ist Kontrolle ohne Reibung: Teams bedienen sich selbstständig aus einer genehmigten Liste, während Platform- und Security-Teams einen einzigen Durchsetzungspunkt für Kosten, Zugriff, Residenz und Sicherheit behalten.

Fragen Sie einen Platform Lead, für wie viele verschiedene LLMs sein Unternehmen gerade bezahlt, und Sie werden meist ein kurzes Zögern und dann eine Vermutung zu hören bekommen. Die ehrliche Antwort lautet oft „mehr als wir denken“, denn jeder Entwickler mit einer Kreditkarte und einem API-Schlüssel kann an einem Nachmittag ein neues Modell in einen Dienst einbinden. Jede dieser Integrationen bedeutet eine separate Rechnung, eigene Anmeldeinformationen und einen eigenen Pfad für sensible Daten, um das Gebäude zu verlassen – nichts davon ist an einem zentralen Ort einsehbar.

Ein Modellkatalog ist das Steuerungselement, das diese Lücke schließt. Er ist die einzige, verwaltete Antwort auf die Frage „Welche Modelle dürfen unsere Teams aufrufen und unter welchen Regeln?“ Kein Spreadsheet mit genehmigten Anbietern, sondern eine durchgesetzte Liste, bei der jeder Eintrag die für ihn geltenden Richtlinien direkt mitführt.

Dieser Beitrag definiert den Modellkatalog präzise, zieht die scharfe Trennlinie zwischen einem Katalog und einem Modellregister (diese werden ständig verwechselt), erklärt, warum Wildwuchs gefährlich und teuer ist, und zeigt, wie ein in einem Gateway implementierter Katalog reale Richtlinien an einen logischen Modellnamen bindet.

Möchten Sie einen verwalteten Katalog genehmigter Modelle mit Budgets und Richtlinien pro Modell? Buchen Sie eine Demo.

Was ein Modellkatalog tatsächlich ist

Ein Modellkatalog ist eine kuratierte Menge von logischen Modelleinträgen. Jeder Eintrag besteht aus zwei Hälften.

Die erste Hälfte ist die Bindung (Binding): ein logischer Name (z. B. summarizer-prod), der einem oder mehreren realen Zielen (einem spezifischen Anbieter, einer Modellversion und einem Endpunkt) zugewiesen ist. Das ist dieselbe Indirektion, die Ihnen ein logischer/virtueller Modellname bietet: Anwendungen rufen den Namen auf, nicht den rohen Anbieter.

Die zweite Hälfte ist die an diesen Eintrag geknüpfte Richtlinie (Policy):

  • Zugriff: Welche Benutzer und Teams das Modell aufrufen dürfen (durchgesetzt über RBAC).
  • Budget: Eine Obergrenze für Ausgaben über einen Zeitraum, nach deren Erreichen Aufrufe abgelehnt oder gedrosselt werden.
  • Rate Limits: Anfragen oder Tokens pro Minute pro Benutzer, Team oder Modell.
  • Datenresidenz: In welcher Region das Modell ausgeführt werden darf, damit Prompts keine geografischen oder rechtlichen Grenzen überschreiten.
  • Guardrails: Welche Überprüfungen bei Ein- und Ausgaben ausgeführt werden (PII-Schwärzung, Erkennung von Prompt-Injections, Secret Scanning).

Ein Eintrag ist erst dann „im Katalog“, wenn beide Hälften existieren. Das ist der Unterschied zwischen einem Katalog und einer Liste von Modellnamen in einem Wiki: Der Katalog setzt durch, weil die Richtlinie mit dem Eintrag mitreist und bei jedem Aufruf angewendet wird.

A model catalog entry: a logical name maps to a provider and version, with access (teams), budget, rate limit, data-residency region, and guardrails bound to it.
Ein Modellkatalog-Eintrag: Ein logischer Name wird einem Anbieter und einer Version zugewiesen, an die Zugriff (Teams), Budget, Rate Limit, Datenresidenz-Region und Guardrails gebunden sind.

Da die Richtlinie an den logischen Namen und nicht an den Anwendungscode gebunden ist, erfolgt eine Änderung an einer einzigen Stelle. Verringern Sie das Budget eines Teams, tauschen Sie die zugrundeliegende Modellversion aus oder fügen Sie eine PII-Guardrail hinzu – jeder Dienst, der diesen logischen Namen aufruft, übernimmt die Änderung bei der nächsten Anfrage. Keine Neubereitstellungen (Redeploys), kein Durchsuchen von Repositories nach hartcodierten Modell-Strings.

Modellkatalog vs. Modellregister: Nicht dasselbe

Dies ist die wichtigste Klarstellung in diesem Artikel, da die Begriffe oft synonym verwendet werden, obwohl sie sich auf völlig unterschiedliche Systeme beziehen.

Ein Modellregister (Model Registry) (denken Sie an Artefakt-Register in MLOps-Tools) verwaltet trainierte Modell-Artefakte. Seine Einheit ist ein Modell, das Sie selbst produziert haben: ein Satz von Gewichten, mit Versionen, Lineage zurück zum Trainingslauf und Datensatz, Metriken und einem Lebenszyklus (Staging, Produktion, Archiviert). Sie verwenden ein Register, wenn Ihre Data Scientists Modelle trainieren und Sie diese Artefakte reproduzierbar nachverfolgen, heraufstufen und bereitstellen müssen.

Ein Modellkatalog verwaltet den Zugriff auf Modelle, die Ihre Teams nutzen. Die meisten davon haben Sie nicht selbst trainiert, wie Drittanbieter-LLM-APIs und Open-Weight-Modelle, die Sie bereitstellen. Seine Einheit ist ein genehmigter, an Richtlinien gebundener Eintrag. Sie verwenden einen Katalog, um zu steuern, wer welches Modell aufrufen darf, zu welchen Kosten, in welcher Region und unter welchen Guardrails.

Die Verwirrung ist verständlich, da sich beide mit „Modellen“ befassen, aber sie beantworten unterschiedliche Fragen. Das eine fragt: „Welche Version des Betrugserkennungsmodells haben wir bereitgestellt und aus welchem Trainingslauf stammt sie?“ Das andere fragt: „Darf das Support-Team Kundendaten an dieses LLM senden und sind wir diesen Monat über dem Budget?“ Eine ausgereifte Plattform besitzt oft beides, und beide Systeme befinden sich auf unterschiedlichen Ebenen.

ModellkatalogModellregister
SteuertZugriff auf Modelle, die Teams aufrufenTrainierte Modell-Artefakte, die Sie selbst produzieren
EinheitEin logischer, an Richtlinien gebundener ModelleintragEin versioniertes Modell-Artefakt (Gewichte)
HauptnutzerPlatform, Security, FinOps, App-TeamsData Scientists, ML-Engineers
KernanliegenWer darf was nutzen, zu welchen Kosten, wo und wie sicherVersionierung, Lineage, Reproduzierbarkeit, Heraufstufung
Typischer InhaltDrittanbieter-APIs + bereitgestellte Open-Modelle + RichtlinienIhre trainierten Modelle, deren Versionen und Metriken
Befindet sich inDem AI Gateway / der Control PlaneDen MLOps- / Artefakt-Werkzeugen
SchlüsseloperationenGenehmigen, Budget festlegen, Zugriff einschränken, Guardrails anbindenRegistrieren, versionieren, stagen, heraufstufen, zurückrollen

Wenn Sie eine Erkenntnis aus diesem Abschnitt mitnehmen: Bei einem Register geht es um das Angebot an Modellen, die Sie bauen; bei einem Katalog geht es um die verwaltete Nachfrage nach Modellen, die Ihre Teams nutzen. Die Wahl des falschen Werkzeugs für ein Governance-Problem hinterlässt Ihnen einen wunderbar versionierten Artefakt-Speicher, aber keinerlei Kontrolle über die OpenAI-Rechnung.

Warum ungesteuerter Modell-Wildwuchs gefährlich ist

Ohne einen Katalog wächst die Modellnutzung organisch – was gesund klingt, aber tatsächlich das Problem ist. Drei Fehlermodi sind die Folge, und sie verstärken sich gegenseitig.

Schattenmodelle. Ein Entwickler fügt einen neuen Anbieter hinzu, um ein Feature auszuliefern. Es funktioniert, also bleibt es bestehen. Niemand hat es genehmigt, die Sicherheitsabteilung hat es nie überprüft, und es taucht in keinem Inventar auf. Multiplizieren Sie das über ein Jahr hinweg mit jedem Team, und Sie haben eine Flotte unbekannter Integrationen – jede davon ein potenzieller Pfad für Datenexfiltration –, die keine einzelne Person aufzählen kann. Was man nicht sieht, kann man nicht steuern.

Überraschende Rechnungen. Wenn jeder Dienst seinen eigenen API-Schlüssel hält, sind die Ausgaben über Anbieterrechnungen hinweg ohne gemeinsame Tags verteilt. Die monatliche Rechnung kommt als eine einzige große Zahl an, und niemand kann ohne forensische Untersuchungen beantworten, welches Team für den Anstieg um 40 % verantwortlich war. Kosten, die nicht zugeordnet werden können, können nicht kontrolliert werden – was die gesamte Prämisse von FinOps für KI darstellt.

Compliance-Lücken. Dies ist die Art von Fehler, die Karrieren beendet. Eine ungesteuerte Integration sendet EU-Kundendaten an ein Modell, das in einer US-Region läuft, und verletzt damit eine Residenzzusage. Oder rohe Prompts mit PII gelangen ohne Schwärzung im Pfad an einen Anbieter. Oder eine Anwendung lässt ein Secret in einen Prompt einfließen, das dann anbieterseitig protokolliert wird. Jede Lücke entsteht, weil es keinen Durchsetzungspunkt zwischen der Anwendung und dem Modell gab.

Left: ungoverned sprawl, many apps each wired directly to many providers with no control. Right: catalog-governed, every app calls the catalog, which applies policy before reaching any provider.
Links: Ungesteuerter Wildwuchs, viele Apps sind direkt mit vielen Anbietern ohne Kontrolle verdrahtet. Rechts: Vom Katalog verwaltet, jede App ruft den Katalog auf, der Richtlinien anwendet, bevor ein Anbieter erreicht wird.

Die gemeinsame Ursache ist das Fehlen eines zentralen Kontrollpunkts (Chokepoint). Eine direkte Verdrahtung von App zu Anbieter bedeutet, dass es keinen einzigen Ort gibt, um die Nutzung einzusehen, Kosten zuzuordnen oder Richtlinien durchzusetzen. Ein Katalog, der in einem Gateway implementiert ist, führt diesen Kontrollpunkt wieder ein, ohne den Teams die Modellauswahl zu nehmen: Sie bedienen sich weiterhin selbst, aber aus einem genehmigten, verwalteten Bestand.

Erfahren Sie, wie TrueFoundry Zugriffs-, Kosten- und Residenzrichtlinien an jedes Modell knüpft. Buchen Sie eine Demo.

Wie ein Katalog im Gateway Richtlinien an einen Modellnamen bindet

Der Katalog ist nur so nützlich wie seine Durchsetzung, und diese Durchsetzung ist der Grund, warum er in das AI Gateway gehört und nicht in ein Dokument. Strukturell ist dies derselbe Kontrollpunkt, den ein LLM-Proxy bietet: Jede Anfrage passiert einen einzigen Ort, sodass Richtlinien bei jedem Aufruf angewendet werden können.

Hier ist, was bei einer einzelnen Anfrage passiert, wenn sich der Katalog im Gateway befindet. Ein Dienst ruft das logische Modell support-assistant auf. Das Gateway:

  1. Authentifiziert und autorisiert. Es prüft über RBAC (unterstützt durch SSO- und SCIM-bereitgestellte Identitäten), ob das Team des aufrufenden Benutzers auf der Zugriffsliste von support-assistant steht. Wenn nicht erlaubt, wird die Anfrage abgelehnt.
  2. Prüft Budget und Rate Limits. Es verifiziert, dass das Team unter seiner Ausgabengrenze und innerhalb seines Token-Rate-Limits pro Team liegt. Bei Überschreitung wird HTTP 429 zurückgegeben, anstatt weiterzuleiten, sodass eine Endlosschleife die Rechnung nicht in die Höhe treiben kann.
  3. Wendet Eingabe-Guardrails an. Es führt die konfigurierten Prüfungen (PII-Schwärzung, Erkennung von Prompt-Injections, Secret Scanning) aus, bevor der Prompt das Gateway verlässt.
  4. Löst Residenz auf und leitet weiter. Es wählt ein Ziel aus, das die Datenresidenz-Region des Eintrags erfüllt, und leitet die Anfrage dorthin weiter.
  5. Wendet Ausgabe-Guardrails an und erfasst die Nutzung. Es überprüft die Antwort und protokolliert anschließend Kosten, Tokens und Latenz für die Anfrage – getaggt nach Benutzer, Team und Modell – für Zuordnung und Observability.

Jeder dieser Schritte bezieht sich auf die Richtlinie des Eintrags, nicht auf den Code im aufrufenden Dienst. Das ist der entscheidende Punkt. Die Anwendung sendet einen Namen; das Gateway setzt alles durch, was an diesen Namen gebunden ist. Ändern Sie die Bindung (neue Modellversion) oder die Richtlinie (niedrigeres Budget, zusätzliche Guardrail) im Katalog, und die nächste Anfrage befolgt sie – ganz ohne Anwendungsänderung.

Dies macht den Katalog auch zum natürlichen Ort für die Kontrollmechanismen, die in Governance-Tools dokumentiert sind. Rate Limits und Budgets werden in LLM Token Rate Limiting und Budgets detailliert beschrieben; die Zuordnung, die Budgets erst sinnvoll macht, findet sich in LLM-Kostenzuordnung und Team-Budgets; Sicherheitsprüfungen befinden sich in AI Guardrails; und die Durchsetzung der Residenz liegt in Datenresidenz. Im Katalog werden diese Richtlinien spezifischen Modellen zugewiesen, und er fügt sich in das breitere Spektrum an AI Governance Tools ein.

TrueFoundry setzt genau dies um: Einen Modellkatalog, bei dem jeder logische Modellname seine Zugriffskontrolle, sein Budget, seine Rate Limits, seine Residenz und seine Guardrails mitführt – durchgesetzt am Gateway bei jeder Anfrage, mit Observability pro Anfrage, getaggt nach Benutzer, Team und Modell. Da die Data Plane in Ihrer eigenen VPC, On-Premises oder Air-Gapped laufen kann, ist Residenz kein Versprechen auf einem Dashboard, sondern eine Eigenschaft des physischen Datenflusses.

Ein konkretes Beispiel für einen Katalogeintrag

Konkret könnte der Eintrag für support-assistant wie folgt aussehen: Logischer Name support-assistant, gestützt durch eine spezifische Anbietermodell-Version; Zugriff beschränkt auf die Teams Support und CX; Budget 2.000 USD/Monat; Rate Limit 50.000 Tokens/Minute pro Team; Residenz auf die EU festgelegt; Guardrails PII-Schwärzung und Prompt-Injection-Erkennung, aktiv für Ein- und Ausgabe. Ein Entwickler im Support-Team ruft support-assistant auf und erhält ein verwaltetes Modell – ohne Kenntnis über den Anbieter, die Region oder die Limits. Einem Entwickler in einem anderen Team, der denselben Namen aufruft, wird der Zugriff verweigert. Das ist Self-Service und Governance zugleich.

Ein Beispielkatalog

So sieht ein kleiner, aber realistischer Katalog aus. Jede Zeile ist ein logischer Eintrag; die Spalten stellen die daran gebundenen Richtlinien dar. Die Zahlen dienen der Veranschaulichung.

Logisches ModellZugrundeliegendes ZielZugriff (Teams)Monatliches BudgetRate LimitResidenzGuardrails
support-assistantAllgemeines LLM, Mid-TierSupport, CX2.000 USD50k Tok/Min/TeamEUPII-Schwärzung, Prompt-Injection
code-helperCode-spezifisches ModellEngineering5.000 USD100k Tok/Min/TeamUSSecret Scanning
doc-summarizerSchnelles, günstiges ModellAlle Teams1.000 USD20k Tok/Min/UserBeliebigPII-Schwärzung
legal-reviewHochwertiges Frontier-ModellLegal (namentliche User)800 USD5k Tok/Min/TeamEUPII-Schwärzung, Secret Scanning, Injection
experiment-sandboxOpen-Weight, Self-HostedPlatform, ML500 USD10k Tok/Min/UserIn-VPCInput Logging aus (sensible Eval)

Wenn Sie eine Zeile waagerecht lesen, können Sie für dieses Modell jede Governance-Frage beantworten: wer, wie viel, wie schnell, wo und wie sicher. Lesen Sie eine Spalte senkrecht nach unten, können Sie eine einzelne Dimension über alle Modelle hinweg auditieren, zum Beispiel: „Welche Modelle sind an die EU gebunden?“ Diese bidirektionale Transparenz ist das, was ein Katalog bietet und was ein Haufen verstreuter API-Schlüssel niemals liefern kann.

Wo Teams Fehler machen

Verwechslung von Katalog und Register. Teams richten ein Modellregister ein, versionieren alles perfekt und können trotzdem nicht steuern, wer die OpenAI-API aufruft oder was sie kostet – weil ein Register Artefakte verwaltet, die Sie trainieren, und nicht den Zugriff auf Modelle, die Sie nutzen. Entscheiden Sie, welches Problem Sie haben, bevor Sie ein Tool auswählen.

Behandlung des Katalogs als statische Liste. Eine Seite für genehmigte Modelle in einem Wiki ist kein Katalog; es ist eine Dokumentation, die niemand durchsetzt. Der Wert liegt in der Durchsetzung bei jeder Anfrage. Wenn die Liste einen unautorisierten Aufruf oder einen Prompt, der gegen Residenzregeln verstößt, nicht blockiert, ist sie eine Empfehlung, keine Kontrolle.

Anbindung von Richtlinien an den Anwendungscode statt an den Modellnamen. Wenn Sie eine Budgetprüfung oder eine Region in jedem Dienst hartcodieren, erhalten Sie verstreute, inkonsistente und nicht auditierbare Richtlinien, die abweichen, sobald jemand vergisst, sie hinzuzufügen. Binden Sie Richtlinien an das logische Modell im Katalog, sodass jeder Aufrufer sie erbt und Änderungen an einem zentralen Ort wirksam werden.

Kosten steuern, aber keine Daten. Budgets und Rate Limits sind die einfache Hälfte. Die teuren Ausfälle sind Compliance-Fehler: Daten, die eine Region verlassen, oder PII, die ungeschwärzt beim Anbieter ankommt. Ein Katalog, der Ausgaben kontrolliert, aber nicht Residenz und Guardrails, lässt karrieregefährdende Lücken offen.

Keine Zuordnung pro Anfrage. Wenn die Nutzung nicht zum Zeitpunkt des Aufrufs nach Benutzer, Team und Modell getaggt wird, sind Budgets nicht durchsetzbar und die monatliche Rechnung bleibt ein Rätsel. Die Zuordnung muss dort erfolgen, wo der Datenfluss stattfindet – am Gateway – und darf nicht später mühsam aus Anbieterrechnungen rekonstruiert werden.

Fazit

Ein Modellkatalog verwandelt die Frage „Welche Modelle dürfen wir nutzen und unter welchen Regeln?“ von einer unbeantwortbaren Frage in eine verwaltete, durchgesetzte Liste. Jeder Eintrag ist ein logischer Modellname, der seine eigene Zugriffskontrolle, sein Budget, seine Rate Limits, seine Residenz und seine Guardrails mitführt. Da die Richtlinie an den Namen gebunden ist, ändern Sie sie an einer Stelle und jeder Aufrufer befolgt sie. Entscheidend ist: Ein Katalog ist kein Modellregister – der eine steuert den Zugriff auf genutzte Modelle, das andere versioniert selbst trainierte Artefakte.

Der Grund für die Implementierung in einem Gateway ist die Durchsetzung. Eine Liste in einem Wiki dokumentiert Absichten; ein Katalog am zentralen Kontrollpunkt, den jede Anfrage passiert, lehnt unautorisierte Aufrufe tatsächlich ab, drosselt Teams bei Budgetüberschreitung, hält EU-Daten in der EU und schwärzt PII, bevor sie das System verlässt. So gewähren Sie Teams Self-Service-Zugriff auf Modelle und halten gleichzeitig Kosten, Zugriff, Residenz und Sicherheit unter Kontrolle – anstatt die Lücken erst auf der Rechnung oder bei einem Audit zu entdecken.

Steuern Sie über einen einzigen Katalog, welche Modelle Ihre Teams nutzen dürfen. Buchen Sie eine Demo.

Try now.

One gateway for all your models, MCP servers, and agents. No credit card needed.

Melde dich an
Inhaltsverzeichniss

Steuern, implementieren und verfolgen Sie KI in Ihrer eigenen Infrastruktur

Buchen Sie eine 30-minütige Fahrt mit unserem KI-Experte

Eine Demo buchen

Der schnellste Weg, deine KI zu entwickeln, zu steuern und zu skalieren

Demo buchen
Summarize with
ChatGPT logo by OpenAI
Perplexity AI logo
Blurry red snowflake on white background, symmetrical frosty design with soft edges and abstract shape.

Entdecke mehr

Keine Artikel gefunden.
Comparing AI agents and agentic AI workloads in enterprise production
November 20, 2026
|
Lesedauer: 5 Minuten

KI-Agenten vs. Agentische KI: Was der Unterschied in der Produktion wirklich bedeutet

Keine Artikel gefunden.
November 20, 2026
|
Lesedauer: 5 Minuten

Bifrost-Alternativen: Die besten Tools, die Sie 2026 in Betracht ziehen können

Keine Artikel gefunden.
November 20, 2026
|
Lesedauer: 5 Minuten

GPT-6.1 Terra: API, Benchmarks, Preise & Nutzung

Keine Artikel gefunden.
November 20, 2026
|
Lesedauer: 5 Minuten

GPT-5.1 vs GPT-5: 9 wichtige Verbesserungen, die Sie kennen müssen

LLMs und GenAI
Keine Artikel gefunden.
Machen Sie eine kurze Produkttour
Produkttour starten
Produkttour