Blank white background with no objects or features visible.

EMEA, hallo! TrueFoundry breidt zijn aanwezigheid uit in Europa, het Midden-Oosten en Afrika. Lees meer. →

Hoe

Schaalt
Multi-model agents met
TrueFoundry

Adopt AI bouwt enterprise-grade agentic AI voor moderne en verouderde systemen.
Met de AI Gateway van TrueFoundry verenigt het platform de toegang tot LLM's van meerdere aanbieders, waarbij centraal meer dan 15 miljoen verzoeken en 40 miljard input-tokens worden verwerkt.

Wil je meer weten over dit succes?

Spreek met onze expert
arrow1
Colorful logo with stylized letters a, p, d, and o in blue, yellow, pink, and red.
Deze multi-modelstrategie was essentieel voor prestaties en kwaliteit, maar zorgde voor versnippering in toegang, observability, kostenbeheer en betrouwbaarheid. Door de AI Gateway van TrueFoundry te implementeren, creëerde Adopt AI één centraal controlepaneel voor al het LLM-verkeer. De Gateway faciliteert nu uniforme modeltoegang, real-time monitoring, latentiebewuste routing en kosteninzicht voor honderdduizenden productieaanvragen, zonder dat er wijzigingen op applicatieniveau nodig zijn.
Over
Adopt logo with interconnected colorful circles and text on white background symbolizing unity and adoption.
Adopt AI stelt ondernemingen in staat om agent-workflows te bouwen en te implementeren die API's, bedrijfsprocessen en bedrijfscontent integreren in zowel moderne als verouderde systemen. Dankzij de Zero-Shot-ingestie en agent-infrastructuur kunnen teams applicaties moderniseren zonder bestaande architecturen te verstoren, wat zorgt voor veilige, productieklare agent-ervaringen op schaal.
Toen klanten steeds complexere agent-workflows gingen gebruiken, begon het platform van Adopt AI grote hoeveelheden latentiegevoelige AI-interacties te verwerken voor meerdere teams en omgevingen.

Een multi-model agentic AI-fundament bouwen met centraal beheer

Naarmate het agent-platform van Adopt AI volwassener werd, ontstonden er verschillende uitdagingen:

Complexiteit door meerdere modellen

Naarmate het agent-platform van Adopt AI volwassener werd, nam het bedrijf de bewuste beslissing om met meerdere LLM-providers te werken. Verschillende workflows vereisten verschillende afwegingen op het gebied van kwaliteit, latentie, beschikbaarheid en kosten, en geen enkel model kon alle use cases effectief bedienen.
Meer informatie

Unified Tracing en besluitvorming mogelijk maken

Zonder een gecentraliseerde AI-toegangslaag was de observability versnipperd over dashboards van verschillende providers. Het was lastig om kritieke vragen in real-time te beantwoorden:
  • Welke modellen worden gebruikt en door wie?
  • Hoeveel verzoeken stromen er door het systeem?
Meer informatie

Risico's voor kosten en betrouwbaarheid

Pieken in tokenverbruik, verhoogde P99-latentie en problemen aan de kant van de provider konden de responsiviteit van agents direct beïnvloeden, maar het diagnosticeren en corrigeren van deze problemen per provider was traag en handmatig werk.
Meer informatie

Complexiteit door meerdere modellen

Naarmate het agent-platform van Adopt AI volwassener werd, nam het bedrijf de bewuste beslissing om met meerdere LLM-providers te werken. Verschillende workflows vereisten verschillende afwegingen op het gebied van kwaliteit, latentie, beschikbaarheid en kosten, en geen enkel model kon alle use cases effectief bedienen.
Meer informatie

Unified Tracing en besluitvorming mogelijk maken

Zonder een gecentraliseerde AI-toegangslaag was de observability versnipperd over dashboards van verschillende providers. Het was lastig om kritieke vragen in real-time te beantwoorden:
  • Welke modellen worden gebruikt en door wie?
  • Hoeveel verzoeken stromen er door het systeem?
Meer informatie

Risico's voor kosten en betrouwbaarheid

Pieken in tokenverbruik, verhoogde P99-latentie en problemen aan de kant van de provider konden de responsiviteit van agents direct beïnvloeden, maar het diagnosticeren en corrigeren van deze problemen per provider was traag en handmatig werk.
Meer informatie
“Voor ons draait de TrueFoundry AI Gateway om volledige abstractie. Onze applicaties communiceren nooit rechtstreeks met modelaanbieders. We kunnen modellen wisselen, throttling beheren en gedrag centraal traceren zonder de code aan te passen. Die scheiding is cruciaal naarmate we agent-workflows voor klanten opschalen.”
 — Rahul Bhattacharya, medeoprichter & CTO, Adopt AI

Oplossing: TrueFoundry AI Gateway als centraal controlepaneel

Adopt AI standaardiseerde alle LLM-interacties via de AI Gateway van TrueFoundry, die fungeert als een strikte abstractielaag tussen applicaties en modelaanbieders. Applicaties communiceren niet langer rechtstreeks met individuele LLM-leveranciers; in plaats daarvan verlopen alle verzoeken via één centrale gateway die routing, tracering en de selectie van aanbieders centraal afdwingt.

Uniforme toegang via verschillende aanbieders

De Gateway biedt een consistente interface voor modellen van OpenAI, Anthropic, Google Vertex, AWS Bedrock en Groq. Teams kunnen centraal nieuwe modellen toevoegen of bestaande modellen uitfaseren, zonder de applicatiecode aan te passen.
Meer informatie

Gecentraliseerde observability

Alle verzoeken verlopen via de Gateway, wat real-time inzicht biedt in:
  • Totaal aantal verzoeken: 15 miljoen+ in de afgelopen 90 dagen
  • Tokenverbruik: ~40 miljard input-tokens en ~2,2 miljard output-tokens
  • Latentie-statistieken: inclusief P50, P90 en P99
Meer informatie

Risico's voor kosten en betrouwbaarheid

Pieken in tokenverbruik, verhoogde P99-latentie en problemen aan de kant van de provider konden de responsiviteit van agents direct beïnvloeden, maar het diagnosticeren en corrigeren van deze problemen per provider was traag en handmatig werk.
Meer informatie

Complexiteit door meerdere modellen

Naarmate het agent-platform van Adopt AI volwassener werd, nam het bedrijf de bewuste beslissing om met meerdere LLM-providers te werken. Verschillende workflows vereisten verschillende afwegingen op het gebied van kwaliteit, latentie, beschikbaarheid en kosten, en geen enkel model kon alle use cases effectief bedienen.
Meer informatie

Unified Tracing en besluitvorming mogelijk maken

Zonder een gecentraliseerde AI-toegangslaag was de observability versnipperd over dashboards van verschillende providers. Het was lastig om kritieke vragen in real-time te beantwoorden:
  • Welke modellen worden gebruikt en door wie?
  • Hoeveel verzoeken stromen er door het systeem?
Meer informatie

Risico's voor kosten en betrouwbaarheid

Pieken in tokenverbruik, verhoogde P99-latentie en problemen aan de kant van de provider konden de responsiviteit van agents direct beïnvloeden, maar het diagnosticeren en corrigeren van deze problemen per provider was traag en handmatig werk.
Meer informatie
Blue outlined rectangles with OpenAI, ANTHROPIC, Vertex AI, AWS Bedrock, and logos listed.

Waarom dit belangrijk is voor Agentic AI

Agent-systemen zijn slechts zo betrouwbaar als de infrastructuur die hun interacties met modellen aanstuurt. Voor Adopt AI werd de AI Gateway de basis die het volgende mogelijk maakte:

  • Flexibiliteit met meerdere modellen zonder chaos
  • Hoog volume aan agent-verkeer zonder blinde vlekken
  • Kosten- en latentieoptimalisatie zonder innovatie te vertragen

Door LLM-interacties te centraliseren in de Gateway-laag, behield Adopt AI zijn flexibiliteit zonder in te leveren op controle. Het platform ondersteunt nu snelle experimenten met verschillende modellen, voorspelbaar operationeel gedrag onder belasting en een duidelijk pad naar het schalen van agent-workflows, en dat alles zonder de complexiteit in de applicatiecode te vergroten.

Grey wavy lines on white background, abstract wave pattern with multiple curved lines intersecting smoothly.

GenAI-infrastructuur: eenvoudiger, sneller, goedkoper

Vertrouwd door 10+ Fortune 500-bedrijven

Probeer het nu
Blank white background with no visible objects or text present.
Spreek met experts
Blank white background with no visible objects or text present.