Blank white background with no objects or features visible.

Werden Sie Teil unseres VAR- und VAD-Ökosystems – und ermöglichen Sie die Governance von Unternehmens-KI über LLMs, MCPs und Agents hinweg. Read →

Wie
Waagen
Agenten mit mehreren Modellen mit
Wahre Gießerei

Adopt AI entwickelt agentische KI auf Unternehmensebene für moderne und ältere Systeme.
Mithilfe des AI Gateways von TrueFoundry vereinheitlicht die Plattform den LLM-Zugriff mehrerer Anbieter. zentrale Bearbeitung von mehr als 15 Millionen Anfragen und über 40 B+ Eingabe-Token.

Sie möchten mehr über diesen Erfolg erfahren?

Sprechen Sie mit unserem Experten
pfeil1
Colorful logo with stylized letters a, p, d, and o in blue, yellow, pink, and red.
Diese Strategie mit mehreren Modellen war für Leistung und Qualität unerlässlich, führte jedoch zu einer Fragmentierung in den Bereichen Zugriff, Beobachtbarkeit, Kostenverfolgung und Zuverlässigkeitsmanagement. Durch die Einführung des AI Gateways von TrueFoundry richtete Adopt AI eine einzige, zentrale Steuerungsebene für den gesamten LLM-Verkehr ein. Das Gateway ermöglicht jetzt einen einheitlichen Modellzugriff, Echtzeitüberwachung, latenzbewusstes Routing und Kostentransparenz für Hunderttausende von Produktionsanfragen, ohne dass Änderungen auf Anwendungsebene erforderlich sind.
Über
Adopt logo with interconnected colorful circles and text on white background symbolizing unity and adoption.
Adopt AI ermöglicht es Unternehmen, agentische Workflows zu entwickeln und bereitzustellen, die APIs, Geschäftsprozesse und Unternehmensinhalte sowohl in modernen als auch in älteren Systemen integrieren. Die Zero-Shot-Ingestions- und Agenteninfrastruktur ermöglicht es Teams, Anwendungen zu modernisieren, ohne bestehende Architekturen zu stören, und sorgt so für sichere, produktionsgerechte Agentenerlebnisse in großem Maßstab.
Als die Kunden immer komplexere Agenten-Workflows einführten, begann die Plattform von Adopt AI, hochvolumige, latenzempfindliche KI-Interaktionen über mehrere Teams und Umgebungen hinweg abzuwickeln.

Aufbau einer agentischen KI-Fundation mit mehreren Modellen Zentralisierte Steuerung

Als die Agentenplattform von Adopt AI reifte, traten mehrere Herausforderungen auf:

Komplexität mehrerer Modelle

Als die Agentenplattform von Adopt AI immer reifer wurde, traf das Unternehmen die bewusste Entscheidung, über mehrere LLM-Anbieter hinweg tätig zu sein. Verschiedene Workflows erforderten unterschiedliche Kompromisse in Bezug auf Qualität, Latenz, Verfügbarkeit und Kosten, und kein einziges Modell konnte alle Anwendungsfälle effektiv abdecken.
Mehr erfahren

Ermöglicht eine einheitliche Rückverfolgung und Entscheidungsfindung

Ohne eine zentrale KI-Zugriffsebene war die Beobachtbarkeit auf anbieterspezifische Dashboards fragmentiert. Es war schwierig, kritische Fragen in Echtzeit zu beantworten:
  • Welche Modelle werden verwendet und von wem?
  • Wie viele Anfragen laufen durch das System?
Mehr erfahren

Kosten- und Zuverlässigkeitsrisiken

Spitzen bei der Token-Nutzung, erhöhte P99-Latenz und Probleme auf der Anbieterseite könnten sich direkt auf die Reaktionsfähigkeit der Agenten auswirken, aber die Diagnose und Behebung dieser Probleme bei allen Anbietern war langsam und manuell.
Mehr erfahren

Komplexität mehrerer Modelle

Als die Agentenplattform von Adopt AI immer reifer wurde, traf das Unternehmen die bewusste Entscheidung, über mehrere LLM-Anbieter hinweg tätig zu sein. Verschiedene Workflows erforderten unterschiedliche Kompromisse in Bezug auf Qualität, Latenz, Verfügbarkeit und Kosten, und kein einziges Modell konnte alle Anwendungsfälle effektiv abdecken.
Mehr erfahren

Ermöglicht eine einheitliche Rückverfolgung und Entscheidungsfindung

Ohne eine zentrale KI-Zugriffsebene war die Beobachtbarkeit auf anbieterspezifische Dashboards fragmentiert. Es war schwierig, kritische Fragen in Echtzeit zu beantworten:
  • Welche Modelle werden verwendet und von wem?
  • Wie viele Anfragen laufen durch das System?
Mehr erfahren

Kosten- und Zuverlässigkeitsrisiken

Spitzen bei der Token-Nutzung, erhöhte P99-Latenz und Probleme auf der Anbieterseite könnten sich direkt auf die Reaktionsfähigkeit der Agenten auswirken, aber die Diagnose und Behebung dieser Probleme bei allen Anbietern war langsam und manuell.
Mehr erfahren
„Für uns geht es beim TrueFoundry AI Gateway um vollständige Abstraktion. Unsere Anwendungen sprechen niemals direkt mit Modellanbietern. Wir können Modelle wechseln, Drosselungen verwalten und das Verhalten zentral verfolgen, ohne den Code zu ändern. Diese Trennung ist entscheidend, da wir die agentischen Workflows kundenübergreifend skalieren.“
— Rahul Bhattacharya, Mitbegründer und CTO, Adopt AI

Lösung: TrueFoundry AI Gateway als zentrale Steuerebene

Adopt AI standardisierte alle LLM-Interaktionen über das AI Gateway von TrueFoundry und behandelte es als strikte Abstraktionsebene zwischen Anwendungen und Modellanbietern. Anwendungen interagieren nicht mehr direkt mit einzelnen LLM-Anbietern. Stattdessen laufen alle Anfragen über ein einziges Gateway, das Routing, Tracing und Anbieterauswahl zentral durchsetzt

Einheitlicher Zugriff für alle Anbieter

Das Gateway bietet eine konsistente Schnittstelle zu Modellen von OpenAI, Anthropic, Google Vertex, AWS Bedrock und Groq. Teams können neue Modelle zentral integrieren oder bestehende Modelle außer Betrieb nehmen, ohne den Anwendungscode zu berühren.
Mehr erfahren

Zentralisierte Beobachtbarkeit

Alle Anfragen werden über das Gateway abgewickelt, sodass in Echtzeit Folgendes einsehbar ist:
  • Gesamtzahl der Anfragen: Mehr als 15 Mio. in den letzten 90 Tagen
  • Token-Nutzung: ~40B Eingangstoken und ~2,2B Ausgabetokens
  • Latenzmetriken: einschließlich P50, P90 und P99
Mehr erfahren

Kosten- und Zuverlässigkeitsrisiken

Spitzen bei der Token-Nutzung, erhöhte P99-Latenz und Probleme auf der Anbieterseite könnten sich direkt auf die Reaktionsfähigkeit der Agenten auswirken, aber die Diagnose und Behebung dieser Probleme bei allen Anbietern war langsam und manuell.
Mehr erfahren

Komplexität mehrerer Modelle

Als die Agentenplattform von Adopt AI immer reifer wurde, traf das Unternehmen die bewusste Entscheidung, über mehrere LLM-Anbieter hinweg tätig zu sein. Verschiedene Workflows erforderten unterschiedliche Kompromisse in Bezug auf Qualität, Latenz, Verfügbarkeit und Kosten, und kein einziges Modell konnte alle Anwendungsfälle effektiv abdecken.
Mehr erfahren

Ermöglicht eine einheitliche Rückverfolgung und Entscheidungsfindung

Ohne eine zentrale KI-Zugriffsebene war die Beobachtbarkeit auf anbieterspezifische Dashboards fragmentiert. Es war schwierig, kritische Fragen in Echtzeit zu beantworten:
  • Welche Modelle werden verwendet und von wem?
  • Wie viele Anfragen laufen durch das System?
Mehr erfahren

Kosten- und Zuverlässigkeitsrisiken

Spitzen bei der Token-Nutzung, erhöhte P99-Latenz und Probleme auf der Anbieterseite könnten sich direkt auf die Reaktionsfähigkeit der Agenten auswirken, aber die Diagnose und Behebung dieser Probleme bei allen Anbietern war langsam und manuell.
Mehr erfahren
Blue outlined rectangles with OpenAI, ANTHROPIC, Vertex AI, AWS Bedrock, and logos listed.

Warum es für Agentic AI wichtig ist

Agentische Systeme sind nur so zuverlässig wie die Infrastruktur, die ihre Interaktionen mit Modellen steuert. Für Adopt AI wurde das AI Gateway zur Grundlage, die Folgendes ermöglichte:

  • Flexibilität mehrerer Modelle ohne Chaos
  • Hoher Agententraffic ohne blinde Flecken
  • Kosten- und Latenzoptimierung ohne Innovationsverzögerung

Durch die Zentralisierung der LLM-Interaktionen auf der Gateway-Ebene bewahrte Adopt AI die Flexibilität, ohne die Kontrolle zu verlieren. Die Plattform unterstützt jetzt schnelles modellübergreifendes Experimentieren, vorhersehbares Betriebsverhalten unter Last und bietet einen klaren Weg zur Skalierung agentischer Workflows, während gleichzeitig die Komplexität des Anwendungscodes gering gehalten wird.

Grey wavy lines on white background, abstract wave pattern with multiple curved lines intersecting smoothly.

GenAI infra- einfach, schneller, günstiger

Mehr als 10 Fortune-500-Unternehmen vertrauen uns

Probiere es jetzt
Blank white background with no visible objects or text present.
Sprechen Sie mit Experten
Blank white background with no visible objects or text present.