Ringg.AI-Integration mit dem Truefoundry AI Gateway

Wenn Voice-Agenten von der Demo-Phase in die Produktion übergehen, stoßen Teams oft auf dasselbe Hindernis. Die Spracherkennung ist der schwierigste Teil des Stacks, besonders in Märkten, in denen Menschen nicht nur eine Sprache am Stück sprechen. Ein Kunde in Indien beginnt ein Gespräch vielleicht auf Hindi, wechselt mitten im Satz ins Englische und rattert eine Bestellnummer in einem Sprachenmix herunter. Die meisten Speech-to-Text-Modelle scheitern genau daran. Und selbst wenn man eines findet, das funktioniert, muss man einen weiteren Anbieter an sein Gateway anbinden, einen weiteren API-Key verwalten und darauf hoffen, dass die eigenen Protokollierungs- und Zugriffskontrollen ausreichen.

Die Frage, die sich jedes Voice-Team irgendwann stellt: Wie integriert man ein spezialisiertes Sprachmodell in die eigene Plattform, ohne daraus ein einmaliges Engineering-Projekt zu machen?

Bei TrueFoundry ist es unser Ziel, dass sich jedes Modell – egal wie spezialisiert – wie ein vollwertiger Bestandteil Ihres Gateways anfühlt. Deshalb freuen wir uns, Ringg.AIs Parrot Speech-to-Text-Modell in das TrueFoundry AI Gateway zu integrieren. Mit einer einzigen Custom-Endpoint-Konfiguration können Ihre Teams Parrot genauso aufrufen wie jedes andere Modell im Gateway – mit derselben Authentifizierung, denselben Zugriffskontrollen und derselben zentralen Transparenz.

TrueFoundry AI Gateway als zentrale Steuerungsebene

Das TrueFoundry AI Gateway ist die zentrale Anlaufstelle für Entwickler und Plattform-Teams, um ihre KI-Anwendungen zu verwalten, zu überwachen und zu skalieren. Es bietet Ihnen einheitlichen Zugriff auf Hunderte von Modellen, intelligentes Routing, virtuelle Keys und vollständige Observability – alles über eine einzige API.

Wenn KI-Stacks wachsen, ist die eigentliche Herausforderung nicht der Zugriff auf ein Modell, sondern das Chaos, das danach entsteht. Jeder neue Anbieter bringt sein eigenes SDK, seine eigenen Keys und seine eigene Arbeitsweise mit. Das Gateway bringt Ordnung in dieses Durcheinander. Es fungiert als zentraler Kontrollpunkt zwischen Ihren Anwendungen und Ihren Modellen. So bedeutet das Hinzufügen einer neuen Funktion nicht, dass Sie Anmeldedaten und benutzerdefinierten Code über Ihre gesamte Codebasis verteilen müssen. Genau das macht es zum idealen Zuhause für ein spezialisiertes Modell wie Parrot: Sie erhalten das Sprachmodell, das Sie benötigen, ohne auf die Konsistenz verzichten zu müssen, auf die Sie sich bereits verlassen.

Ringg.AI Parrot: Speech-to-Text für echte Sprachinteraktionen

Parrot ist das Speech-to-Text-Modell von Ringg.AI, das speziell für Voice-Agenten in Echtzeit entwickelt wurde. Während allgemeine Transkriptionsmodelle meist mit sauberem, einsprachigem Audiomaterial trainiert werden, ist Parrot auf die Art und Weise ausgelegt, wie Menschen tatsächlich sprechen – mit starker Unterstützung für Hindi, Englisch und den Sprachenmix, der echte Gespräche prägt.

Dieser Fokus ist entscheidend. Ein Voice-Agent ist nur so gut wie sein Gehör. Wenn die Transkription ein Wort verschluckt oder den Sprachwechsel falsch interpretiert, zieht sich dieser Fehler durch jeden nachgelagerten Schritt – von der Absichtserkennung bis zur Antwortgenerierung. Indem Parrot komplexe, reale Sprache präzise und in Echtzeit verarbeitet, bietet es Voice-Agenten ein zuverlässiges Fundament. Das ist der Unterschied zwischen einer Demo, die in einem ruhigen Raum funktioniert, und einem Agenten, der auch bei einem echten Kundengespräch überzeugt.

Die Stärken von Parrot zeigen sich in den Details, an denen allgemeine Modelle scheitern. Es normalisiert die Devanagari-Ausgabe, sodass das Transkript sauber genug für die direkte Verarbeitung durch ein LLM ist. Es verarbeitet alphanumerische Zeichenfolgen wie Bestellnummern und IDs präziser als marktübliche Alternativen und erkennt Eigennamen sowie benannte Entitäten zuverlässiger. Und das alles, während es zu den schnellsten verfügbaren Speech-to-Text-Modellen zählt.
Parrot verarbeitet beispielsweise eine Äußerung wie „अभी तो I am taking hydroxychloroquine sulfate“ sauber und transkribiert den Wechsel zwischen Hindi und Englisch, die normalisierte Devanagari-Schrift sowie den Medikamentennamen in einem Durchgang korrekt. 

Besser zusammen: Ein Endpunkt, volle Kontrolle

Die Integration von Parrot in das TrueFoundry AI Gateway bedeutet, dass Sie Spracherkennung nicht mehr als separaten, nachträglich angefügten Dienst behandeln müssen. Parrot wird zu einem weiteren Endpunkt in Ihrem Gateway, der denselben Regeln unterliegt wie alles andere auch.

Der Vorteil ist eine saubere Trennung der Zuständigkeiten. Ihr Ringg.AI API-Key liegt sicher im Gateway und wird bei jeder Anfrage vom Gateway an Ringg weitergeleitet. Ihre Anwendungen bekommen ihn nie zu Gesicht. Ihr Client hält lediglich einen TrueFoundry-API-Schlüssel und kommuniziert mit dem Gateway. Das bedeutet, dass Sie Anmeldedaten rotieren, Zugriffsrechte für Parrot verwalten und die Nutzung über ein zentrales Dashboard prüfen können, ohne den Anwendungscode anzupassen. Sie konfigurieren Parrot einmalig als Custom Endpoint, legen die Zugriffskontrolle für die entsprechenden Benutzer und Teams fest und stellen es unternehmensweit mit der gewohnten Governance bereit.

So funktioniert die Integration von Ringg.AI und TrueFoundry

Parrot verbindet sich über Custom Endpointsmit dem Gateway – dem Mechanismus von TrueFoundry, um jede HTTPS-API hinter den Proxy-Pfad des Gateways zu legen. Das folgende Diagramm zeigt den durchgängigen Ablauf.

‍

Der mehrstufige Ablauf funktioniert wie folgt:

1.  Ihre Sprachanwendung sendet eine Audiodatei per Multipart-Form-Request an das TrueFoundry AI Gateway, authentifiziert nur mit einem TrueFoundry-API-Schlüssel.

2.  Das Gateway leitet die Anfrage an Ringg.AI Parrot weiter und fügt den intern gespeicherten x-api-key-Header hinzu. Optionale Parameter wie Sprache und enable_cap_punc werden dabei mit übergeben.

3.  Parrot transkribiert die Sprache und sendet das Transkript als JSON an das Gateway zurück.

4.  Optional kann das Transkript an jedes bereits auf dem Gateway vorhandene LLM weitergeleitet werden, sodass eine einzige Steuerungsebene sowohl die Sprach- als auch die Analyse-Schritte Ihres Voice-Agents abdeckt.

5.  Das Gateway sendet das Transkript oder die nachgelagerte Antwort an Ihre Anwendung zurück, wobei die vollständige Anfrage zur Nachvollziehbarkeit protokolliert wird.

Da die Integration auf Custom Endpoints basiert, sind keine Sidecars, kein Austausch von SDKs und keine modellbezogene Verwaltung von Anmeldedaten in Ihrer Anwendung erforderlich. Das Gateway fungiert als Proxy für die Anfrage, fügt den Upstream-Schlüssel ein und protokolliert den Aufruf.

Konfiguration in drei Schritten

Die Einrichtung ist eher wie das Umlegen eines Schalters als ein technisches Projekt. Gehen Sie im TrueFoundry-Dashboard auf AI Gateway → Models → Custom Endpoints und:

1.  Erstellen Sie ein Konto für den Custom-Endpoint-Anbieter. Geben Sie ihm einen eindeutigen Namen, der in Ihrer Aufruf-URL zum providerAccountName wird. Lassen Sie die Header-Authentifizierung deaktiviert.

2.  Fügen Sie einen Ringg.AI STT-Endpunkt hinzu. Legen Sie den Anzeigenamen fest (dies wird zum endpointName), setzen Sie die Basis-URL auf https://prod-api.ringg.ai/stt/v1/transcriptions, aktivieren Sie Custom Headers und fügen Sie x-api-key mit Ihrem Ringg.AI-Schlüssel hinzu.

3.  Legen Sie die Zugriffskontrolle für die Benutzer und Teams fest, die diesen Endpunkt verwenden sollen, und speichern Sie anschließend.

Nach dem Speichern rufen Sie Parrot über den Gateway-Proxy-Pfad auf: {GATEWAY_BASE_URL}/proxy-api/{providerAccountName}/{endpointName}. Beachten Sie den aktuellen Unterstützungsumfang: Derzeit werden nur HTTPS- und Nicht-Streaming-Anfragen unterstützt; weitere Abdeckung wird auf Kundenwunsch hinzugefügt.

Starten Sie mit Real-Time Voice AI

Voice AI benötigt nicht für jedes Modell einen separaten Integrationspfad. Mit Ringg.AI Parrot auf dem TrueFoundry AI Gateway erhalten Sie Speech-to-Text, das für echte, code-gemischte Konversationen entwickelt wurde und in dieselbe einheitliche API, Zugriffskontrollen und Observability integriert ist, die Sie bereits für den Rest Ihres Stacks nutzen. Weitere Informationen finden Sie in der Ringg.AI-Integrationsreferenz in der TrueFoundry-Dokumentation sowie auf der Parrot STT-Modellseite, um mit der Entwicklung zu beginnen.