SaaS vs Hybrid vs Self-Hosted: Een AI Gateway Control Plane Kiezen

De scheiding die er toe doet: control plane vs data plane

Elke serieuze AI gateway scheidt twee verantwoordelijkheden. De data plane is het gedeelte in het live pad van een verzoek: het ontvangt de aanroep van je app, past routing en guardrails toe, stuurt het door naar de model provider en retourneert de respons. De control plane omvat alles daarrond: het dashboard, de configuratie, authenticatie, metrics en logs.

Dit verschil is precies wat flexibele implementatie mogelijk maakt. Het is mogelijk om de prestatie- en latentiegevoelige data plane dicht bij je workloads te houden en het beheergedeelte aan een ander over te laten — of alles zelf te beheren. "Kiezen tussen SaaS, hybrid en self-hosted" komt neer op één eenvoudige vraag: "waar draaien welke planes en waar worden verzoeken opgeslagen?"

Het spectrum

Er is geen binaire keuze tussen "cloud" en "on-prem". Het is een spectrum, waarbij elke stap meer naar jouw eigen omgeving verplaatst.

Aan de ene kant wordt alles voor je beheerd. Aan de andere kant draait alles in jouw VPC. Daartussenin liggen de opties die de meeste gereguleerde ondernemingen in de praktijk kiezen — beheerd gemak waar het veilig is, self-hosting waar een vereiste dat eist.

De drie modellen naast elkaar

SaaS: volledig beheerd

Beide planes draaien in de cloud van TrueFoundry. Er is geen infrastructuur om te implementeren, de gateway is wereldwijd gedistribueerd over regio's en clouds voor lage latentie en hoge beschikbaarheid, en het platform is SOC2, ISO 27001, GDPR en HIPAA-compliant. De hostingkosten voor jou zijn nul.

Een tussenvariant behoudt de beheerde gateway, maar slaat verzoek-responsgegevens op in je eigen blob storage (S3, GCS of Azure Blob) in Parquet-formaat — zo behoud je de volledige eigendom van data en kun je er analytics op uitvoeren met Spark, DuckDB of Athena, terwijl TrueFoundry nog steeds de gateway beheert.

Hybrid: jouw gateway, hun control plane

Hier draait de gateway data plane in jouw VPC en host TrueFoundry de control plane. Dit is het ideale punt voor veel ondernemingen: al het LLM-verkeer blijft binnen jouw infrastructuur — TrueFoundry zit nooit in het live pad van het verzoek — en verzoekgegevens worden opgeslagen in je eigen bucket, terwijl je het beheer van de managementlaag vermijdt.

De afweging is dat jij de beschikbaarheid van de gateway en de ingestiedienst beheert, en dat de control plane leestoegang nodig heeft tot jouw log-bucket, zodat je verzoeklogs in het dashboard kunt bekijken.

Self-hosted: alles in jouw omgeving

Zowel de gateway als de control plane draaien in jouw infrastructuur. Alles behalve de authenticatie-/licentie- en analytics-servers is van jou.

De enige data die de deur uitgaat is wat de licentieserver nodig heeft: de e-mailadressen van platformgebruikers en het aantal verzoeken via de gateway, voor het bijhouden van licenties en facturering. Dit is de optie voor de strengste eisen op het gebied van data-residency en isolatie — ten koste van het zelf beheren van het volledige platform (~$800–1.000/maand aan hosting).

Welke moet je kiezen?

De eerlijke standaard is start op SaaS. Het is de snelste weg naar productie en voor de meeste teams is het compliance-profiel meer dan voldoende. Verplaats de data plane pas naar je VPC (hybrid) wanneer je daar een concrete reden voor hebt — LLM-verkeer dat je netwerk niet mag verlaten, of verzoekgegevens die in je eigen opslag moeten staan. Kies pas voor volledig self-hosted wanneer data-residency, air-gap of regelgeving eist dat zelfs de control plane in jouw omgeving draait. De fout is om standaard voor self-hosted te kiezen "om veilig te zijn" en jezelf op te zadelen met maanden aan platformbeheer dat je niet nodig had.

Waar teams de mist in gaan

Ze kiezen voor self-hosted uit gewoonte, niet vanwege vereisten. Het beheren van beide planes is serieus operationeel werk. Tenzij een specifieke regel het eist, betaal je in engineeringtijd voor controle die je mogelijk niet nodig hebt.

Ze halen "beheerd" en "geen data-eigendom" door elkaar. Zelfs op SaaS kun je verzoekgegevens in je eigen bucket opslaan. Een beheerde gateway en data-eigendom sluiten elkaar niet uit.

Ze vergeten egress-kosten. Wanneer logs in jouw bucket staan en je ze in het dashboard bekijkt, wordt de data over het netwerk opgehaald — je cloudprovider kan hiervoor egress-kosten in rekening brengen. Neem dit op in het budget bij hybrid en self-hosted.

Ze onderschatten de ops voor hybrid. De gateway in je VPC laten draaien betekent dat je verantwoordelijk bent voor de uptime en de ingestiedienst. Het is lichter dan volledig self-hosting, maar het is niet nul.

Weet je niet zeker welk model past bij jouw compliance-eisen?

Boek een demo

Wat er daadwerkelijk in jouw omgeving blijft

De twijfel bij deze beslissing gaat meestal over data. Dus, concreet: bij hybrid en self-hosted blijven LLM-verzoek- en responsgegevens in jouw infrastructuur en jouw blob storage, en in die modi bevindt TrueFoundry zich niet in het live verzoekpad. Bij self-hosted zijn de enige uitgaande gegevens de e-mailadressen van gebruikers en het aantal verzoeken naar de licentieserver. Zelfs bij SaaS kun je de opslag van verzoekgegevens naar je eigen bucket verwijzen. Bij elke optie worden gegevens versleuteld in rust en tijdens het transport. De beslissing is dus niet "is mijn data veilig", maar "hoeveel van het platform wil ik zelf beheren om aan mijn specifieke regels te voldoen."

Een praktijkvoorbeeld: een gereguleerde onderneming kiest voor hybrid

Een financiële dienstverlener wil de governance van de AI gateway — routing, guardrails, kostenbeheersing — maar heeft een strikte regel: klantgegevens in prompts mogen niet via de infrastructuur van een derde partij verlopen. Volledig beheerde SaaS valt om die reden af; het volledig self-hosten van het hele platform is meer dan hun kleine platformteam wil beheren.

Hybrid past precies. Ze implementeren de gateway data plane in hun eigen VPC, zodat elk LLM-verzoek en de bijbehorende data binnen hun netwerk blijft en TrueFoundry het live verkeer nooit ziet. TrueFoundry host de control plane, waardoor het team beschikt over het dashboard, de configuratie en metrics zonder die laag zelf te hoeven beheren. Verzoeklogs staan in hun S3-bucket; de control plane leest deze uit, zodat logs in het dashboard kunnen worden bekeken. Ze krijgen governance op ondernemingsniveau en data-isolatie zonder het hele platform op te tuigen — en als hun eisen later strenger worden, is de overstap naar volledig self-hosted een implementatiewijziging, geen overstap naar een nieuwe leverancier.

Belangrijke aandachtspunten

• Egress-kosten. Het bekijken van logs die in jouw bucket zijn opgeslagen en log-compactie/indexering door de control plane kunnen bij hybrid en self-hosted leiden tot cloud-egress-kosten.
• Control plane heeft bucket-toegang nodig om verzoeklogs in het dashboard te tonen — zonder die toegang verlies je die weergave.
• Hybrid vereist nog steeds ops. Je bent zelf verantwoordelijk voor de uptime van de gateway en de ingestiedienst.
• Licentieserver is minimaal. Self-hosted verstuurt alleen e-mailadressen en het aantal verzoeken voor de facturering — er verlaat niets anders het netwerk.
• Je kunt van gedachten veranderen. Omdat het om hetzelfde platform gaat, is een verschuiving binnen het spectrum een kwestie van een implementatiewijziging, niet een migratie naar een nieuw product.

Gerelateerde artikelen

• Control plane vs data plane
• Wat is een AI control plane?
• AI gateway on-premise
• On-premise AI-platform
• LLM gateway on-premise infrastructuur
• Hoe kies je een AI gateway

Conclusie

"SaaS vs hybrid vs self-hosted" klinkt als een filosofische keuze over controle, maar het is eigenlijk een praktische keuze over waar twee planes draaien en waar je data staat. De opsplitsing tussen control plane en data plane betekent dat je governance niet hoeft op te offeren voor data-isolatie — je kunt LLM-verkeer in je VPC houden en toch het beheer van de managementlaag aan een ander overlaten.

Start beheerd, bewaar je data waar je regelgeving dat eist en verplaats planes pas in-house als een concrete vereiste daartoom vraagt. Hetzelfde platform beslaat het hele spectrum, dus de beslissing is nooit definitief — je kunt opschalen of versoepelen naarmate je behoeften veranderen.

Vind de juiste implementatie voor jouw compliance-eisen

Boek een demo