Lasso Security-Integration mit dem TrueFoundry AI Gateway

Auf Geschwindigkeit ausgelegt: ~ 10 ms Latenz, auch unter Last
Unglaublich schnelle Methode zum Erstellen, Verfolgen und Bereitstellen Ihrer Modelle!
- Verarbeitet mehr als 350 RPS auf nur 1 vCPU — kein Tuning erforderlich
- Produktionsbereit mit vollem Unternehmenssupport
Lasso Security-Integration mit dem TrueFoundry AI Gateway
Jedes Unternehmen möchte KI-Anwendungen schneller bereitstellen. Entwickler wollen die besten Modelle nutzen und zügig vorankommen. Sicherheitsteams müssen sicherstellen, dass jeder Prompt und jede Antwort sicher, regelkonform und frei von Datenlecks ist. Diese beiden Ziele stehen meist im Widerspruch zueinander, und die Reibungsverluste nehmen zu, je mehr Teams mehr Anwendungen auf Basis von mehr Modellen entwickeln. Die große Frage ist einfach: Wie schützen Sie jede KI-Interaktion in Ihrem gesamten Unternehmen, ohne für jede Anwendung einzeln benutzerdefinierten Sicherheitscode implementieren zu müssen?
Genau dieses Problem löst diese Partnerschaft. Wir freuen uns, die Integration von Lasso Security in das TrueFoundry AI Gateway bekannt zu geben. Gemeinsam ermöglichen sie es Ihnen, konsistente Sicherheit auf Unternehmensebene für jedes Modell und jede Anwendung von einem zentralen Ort aus durchzusetzen. So können Ihre Teams weiterhin mit voller Geschwindigkeit entwickeln, während Ihr Sicherheitsstatus gewahrt bleibt.
TrueFoundry AI Gateway als zentrale Steuerungsebene
Das TrueFoundry AI Gateway ist die Kommandozentrale für Unternehmens-KI. Es bietet Entwicklern und Plattformteams einen einheitlichen Zugriff auf Hunderte von Large Language Models, tiefe Einblicke in jede Anfrage sowie intelligentes Routing und Fallback – alles an einem Ort. Anstatt jede Anwendung mit einem anderen Anbieter zu verbinden und ein Wirrwarr aus API-Schlüsseln und SDKs zu verwalten, leiten Teams alles über das Gateway und überlassen diesem die restliche Arbeit.
Mit zunehmender Verbreitung von KI ist der Zugriff auf Modelle nicht mehr die eigentliche Herausforderung. Es geht vielmehr darum, die Komplexität zu bewältigen, die danach entsteht: mehrere Anbieter, sich ändernde APIs und strenge Compliance-Anforderungen. Das Gateway bringt Ordnung in diese Komplexität, indem es den Zugriff vereinheitlicht, Richtlinien durchsetzt und Ihnen volle Transparenz über jedes Modell und jede Umgebung bietet. Sicherheit, die auf dieser Ebene angesiedelt ist, schützt jede Anwendung gleichzeitig, ohne dass pro Anwendung technischer Aufwand erforderlich ist.
Lasso Security: Speziell entwickelter Schutz für GenAI
Lasso Security ist eine KI-Sicherheitsplattform, die speziell auf das Verhalten von Large Language Models zugeschnitten ist. Anstatt herkömmliche Sicherheitstools nachträglich anzupassen, versteht Lasso die Absicht hinter einem Prompt und einer Antwort. Dadurch können Bedrohungen erkannt werden, die generischen Filtern entgehen.
Lasso schützt vor dem gesamten Spektrum an LLM-Risiken. Es erkennt und blockiert Prompt-Injection- und Jailbreak-Versuche, bevor diese Ihre Modelle manipulieren können, wobei die Schutzmaßnahmen auf die OWASP Top 10 für LLMs abgestimmt sind. Intent-Klassifikatoren leiten ab, was ein Prompt tatsächlich bezweckt, und fangen so böswillige Eingaben ab, die herkömmliche Stichwortfilter umgehen. Sie definieren benutzerdefinierte Richtlinien mithilfe eines „LLM-as-a-judge“-Ansatzes; diese Richtlinien fungieren innerhalb der Lasso-Plattform als Stellvertreter, die jede Anfrage begleiten. Zudem verhindert Lasso Datenlecks durch die spontane Maskierung von personenbezogenen Daten (PII) wie E-Mails und Telefonnummern, kennzeichnet toxische Inhalte und bietet Sicherheitsteams Einblick in die Nutzung von Schatten-KI im gesamten Unternehmen.
Gemeinsam stärker: Eine Integration, zentralisierte Kontrolle
Die Kombination von Lasso Security und dem TrueFoundry AI Gateway macht die Absicherung Ihrer KI einfacher und robuster. Anstatt Lasso mit separaten SDKs und verstreuten Code-Änderungen in jede Anwendung einzubetten, verbinden Sie es einmalig am Gateway und wenden es auf jedes dahinterliegende Modell an.
Das Gateway berücksichtigt bei jedem Aufruf das Urteil von Lasso und setzt es automatisch durch – sei es das Blockieren eines schädlichen Prompts oder das Maskieren sensibler Daten, bevor diese ein Modell erreichen. Sie konfigurieren Lasso als Leitplanke direkt im TrueFoundry-Dashboard, was Ihnen einen zentralen Ort zur Verwaltung der Sicherheitsrichtlinien über Teams, Modelle und Umgebungen hinweg bietet. Und da die Ergebnisse von Lasso mit der detaillierten Anfragenverfolgung des Gateways verknüpft sind, erhalten Sie einen vollständigen Audit-Trail, der Compliance und Incident Response erheblich erleichtert.
So funktioniert die Integration von Lasso Security und TrueFoundry

Die Integration führt einen mehrschichtigen Sicherheitsansatz für jede Anfrage ein.
- Wenn Ihre Anwendung eine Anfrage sendet, durchläuft diese zunächst das TrueFoundry AI Gateway.
- Das Gateway leitet den Prompt an Lasso Security weiter, das ihn anhand Ihrer Stellvertreter und Richtlinien klassifiziert.
- Wenn Lasso ein „Erlaubt“-Urteil zurückgibt, wird die Anfrage sicher an das Modell weitergeleitet. Wenn es ein „Blockiert“-Urteil zurückgibt, stoppt das Gateway die Anfrage und liefert stattdessen eine sichere Fallback-Antwort. Wenn eine Richtlinie eine Maskierung erfordert, gibt Lasso den redigierten Text zurück und das Gateway ersetzt ihn vor der Weiterleitung.
- Optional sendet das Gateway die Ausgabe nach der Generierung durch das Modell zur abschließenden Überprüfung zurück an Lasso, sodass die Antwort auf sensible Daten oder schädliche Inhalte geprüft wird, bevor sie den Benutzer erreicht.
Die Konfiguration ist ebenso unkompliziert. Sie fügen Lasso als Leitplanke in Ihrem TrueFoundry-Konto hinzu, verweisen auf Ihren bereitgestellten Endpunkt, geben Ihren API-Schlüssel ein und verknüpfen ihn mit den Modellen, die Sie schützen möchten. Von da an wird er automatisch bei jeder Anfrage ausgeführt.
Starten Sie mit KI-Sicherheit auf Unternehmensniveau
KI-Sicherheit sollte Sie nicht ausbremsen. Mit der Integration von Lasso Security in das TrueFoundry AI Gateway erhalten Sie einen maßgeschneiderten Schutz für generative KI über alle Modelle und Anwendungen hinweg – die Einrichtung ist so einfach wie das Umlegen eines Schalters, statt eines komplexen technischen Projekts.
Weitere Informationen finden Sie in der Integrationsreferenz für Lasso Security in der TrueFoundry-Dokumentation sowie auf der Lasso Security-Plattform. Möchten Sie das Ganze in Aktion sehen? Kontaktieren Sie eines der beiden Teams für eine Demo und beginnen Sie noch heute mit der Absicherung Ihrer KI-Anwendungen.
TrueFoundry AI Gateway bietet eine Latenz von ~3—4 ms, verarbeitet mehr als 350 RPS auf einer vCPU, skaliert problemlos horizontal und ist produktionsbereit, während LiteLM unter einer hohen Latenz leidet, mit moderaten RPS zu kämpfen hat, keine integrierte Skalierung hat und sich am besten für leichte Workloads oder Prototyp-Workloads eignet.
















.png)
.png)

.webp)
.png)
.png)
.png)
.webp)
.webp)

.png)
.png)
.png)
.png)
.png)
.png)
.png)





