Die schwierige Übergangsphase: Das Überleben des Übergangs von regelbasierten IVR- zu Agentic-Systemen

1. Das Übergangsproblem – Warum alte Systeme versagen und LLMs noch nicht so weit sind

Seit Jahrzehnten verlassen sich Unternehmen auf regelbasierte Interactive Voice Response (IVR)-Systeme, um Kundenanrufe zu verwalten. Diese Systeme wurden entwickelt, um Effizienz zu liefern: Anrufer durch Menüs zu leiten, einige Schlüsselwörter zu erkennen und sie an das richtige Team oder Skript weiterzuleiten. In kleinem Maßstab hat das funktioniert. Aber in einem Unternehmen, das jährlich hunderte Millionen von Anrufen abwickelt, werden diese Grenzen schmerzhaft deutlich. Kunden halten sich nicht an Skripte. Sie sprechen in natürlicher, frei fließender, unvorhersehbarer Sprache – manchmal emotional, manchmal technisch, manchmal ungeduldig. Regelbasierte Systeme wurden schlicht nicht dafür gebaut, solch vielfältige Anfragen zu bearbeiten.

Das Ergebnis? Hohe Abbruchraten bei Anrufen, frustrierte Kunden und erheblicher Markenschaden. Unternehmen, die versuchen, menschliche Gespräche in starre Entscheidungsbäume zu zwängen, kämpfen mit längeren Lösungszeiten, höheren Übergaberaten an Agenten und explodierenden Betriebskosten. Noch schlimmer ist, dass die Customer Experience auf eine Weise leidet, die sich direkt auf Kundenbindung und Umsätze auswirkt. Branchenanalysen ergaben, dass 2021 die Gesamt-CSAT-Bewertung für IVR-Self-Service bei 75 % lag und die CSAT-Bewertung für die IVR-Navigation nur 53 % betrug! [Link]

Im Gegensatz zu regelbasierten Systemen können LLM-basierte Agentic-Systeme Absichten analysieren, sich an den Kontext anpassen und in natürlicher, menschenähnlicher Sprache antworten. Theoretisch können sie die Dynamik realer Gespräche im großen Maßstab bewältigen. Sie stellen den lang ersehnten Technologiesprung dar: Nicht nur die Automatisierung der Anrufweiterleitung, sondern die Interaktion mit Kunden auf eine Weise, die sich personalisiert und empathisch anfühlt.

Aber das Problem ist: Standard-LLMs sind weder für die branchenspezifischen Betriebsprozesse großer Unternehmen trainiert, noch sind sie gehärtet, um den Enterprise-Standards für Datenschutz, Zuverlässigkeit und Bereitstellung zu entsprechen. Trotz ihres Potenzials weisen heutige LLMs immer noch Fehlermodi auf, die CIOs und Compliance-Beauftragte nervös machen. Sie können Antworten „halluzinieren“, regulatorisch sensible Anfragen falsch interpretieren oder im Ton von einer Interaktion zur nächsten variieren. Zuverlässigkeit, Konsistenz und Compliance – allesamt unverzichtbare Kriterien für ein Fortune-500-Kundenserviceteam – können noch nicht garantiert werden.

Dadurch stecken Unternehmen im Übergangsproblem fest: Das alte System kann das Anrufvolumen technisch bewältigen, aber dies führt zu einer großen Anzahl unzufriedener Kunden aufgrund schlecht unterstützter Anwendungsfälle und steigender Erwartungen moderner Nutzer. Die neuen Systeme sind zwar besser auf die heutigen Nutzerbedürfnisse abgestimmt, aber noch nicht zuverlässig genug, um die alten vollständig zu ersetzen.

Für Führungskräfte im Technologiebereich ist dieser Moment von einem heiklen Spannungsfeld geprägt: Verlässt man sich zu stark auf Legacy-Systeme, riskiert man eine wachsende Unzufriedenheit der Kunden; setzt man LLMs zu schnell ein, riskiert man kostspielige Fehler, die das Vertrauen untergraben.

2. Warum Unternehmen nicht warten können – Die Kosten des Nichtstuns und die Dringlichkeit der KI-Einführung

Für viele Führungskräfte scheint die sicherste Wahl zu sein, zu warten, bis LLMs „reif“ sind. Aber in der Praxis ist das keine Option. Der Wettbewerbsdruck ist zu hoch und die Kosten des Nichtstuns sind hoch.

Erstens haben sich die Kundenerwartungen unumkehrbar verändert. Verbraucher interagieren täglich mit KI-gestützten Chatbots, smarten Assistenten und Empfehlungsmaschinen. Wenn sie bei einem Milliarden-Unternehmen anrufen, erwarten sie von ihren IVR-Erlebnissen das gleiche Maß an Sprachgewandtheit, Personalisierung und Reaktionsfähigkeit. Weniger zu bieten, wirkt veraltet. In Branchen wie dem Banken-, Versicherungs- und Telekommunikationssektor ist diese Lücke nicht nur unbequem – sie reicht aus, um Kunden zu Konkurrenten zu treiben, die bereits in KI investieren.

Zweitens ist die Ökonomie von Callcentern gnadenlos. Die Bewältigung von 500 Millionen Anrufen pro Jahr allein mit menschlichen Agenten ist undurchführbar. Selbst inkrementelle Effizienzgewinne führen zu Einsparungen in zweistelliger Millionenhöhe pro Jahr. Wer KI jetzt nicht einführt, fällt nicht nur zurück, sondern verfestigt unnötige Kostenstrukturen, die die Margen schmälern.

Drittens bewegt sich die Konkurrenz. Branchenübergreifend sehen wir bereits Marktführer, die mit KI-gestützter Customer Experience experimentieren. Einige mögen straucheln, aber das Signal an Kunden und Investoren ist eindeutig: Innovation findet statt, und Marken, die mit KI vorangehen, werden sich differenzieren. Abzuwarten birgt nicht nur das Risiko von Kundenabwanderung, sondern auch den Verlust der Reputation als „Nachzügler“.

Schließlich gibt es die organisatorische Lernkurve. Die verantwortungsvolle Bereitstellung von KI in einer Fortune-500-Umgebung erfordert Zeit: Abstimmung der Rechtsabteilungen, Schulung des Personals, Integration in Legacy-Systeme, Aufbau von Observability-Frameworks. Dies sind keine Fähigkeiten, die über Nacht aktiviert werden können. Selbst wenn LLMs morgen vollkommen zuverlässig werden, werden Unternehmen, die bisher noch keine Kompetenzen für die KI-Einführung aufgebaut haben, jahrelang hinterherhinken.

Kurz gesagt: Unternehmen können es sich nicht leisten zu warten. Die Risiken des Nichtstuns – steigende Kosten, Kundenverluste, nachlassende Wettbewerbsfähigkeit – überwiegen die Risiken einer sorgfältig gesteuerten Einführung bei Weitem. Die Herausforderung besteht nicht darin, ob man KI einführt, sondern wie man sie während der schwierigen Übergangsphase verantwortungsvoll einführt.

3. Anwendungsfall aus der Praxis: LLMs mit regelbasierten Systemen ausbalancieren

In dem Bewusstsein, dass weder regelbasierte IVRs noch LLM-basierte Standardlösungen allein den Anforderungen eines Fortune-500-Unternehmens gerecht werden können, arbeitete TrueFoundry mit einer der größten Apothekenketten der USA zusammen, um einen hybriden Voice AI Agent zu entwickeln. Das Ziel war ehrgeizig: Die Effektivität eines erfahrenen Apothekers bei Millionen von Routineanrufen zu replizieren, die Rezeptstatus, Nachfüllungen, Filialinformationen, Bestandsprüfungen und andere alltägliche Kundenbedürfnisse abdecken.

Das Herzstück dieses Designs ist ein hybrider Optimierungsansatz: Er kombiniert die Effizienz deterministischer regelbasierter Systeme mit der Flexibilität KI-gestützter Konversationen. Häufige und sich wiederholende Anfragen, wie die Überprüfung von Öffnungszeiten oder abholbereiten Nachfüllungen, werden über eine regelbasierte Fast-Path-Verarbeitung geleitet. Dies deckt 90–95 % der Routineanfragen ab, vermeidet unnötige LLM-Aufrufe, reduziert die Latenz und senkt die Rechenkosten.

Wenn ein Kunde eine komplexere oder mehrdeutige Anfrage stellt, übernimmt ein intelligentes Routing-System. Mithilfe von Intent-Recognition-Klassifikatoren, die auch den Hintergrundkontext berücksichtigen, der der Kundenanfrage automatisch aus früheren Gesprächen hinzugefügt wurde, bestimmt der Intent-Manager, ob die Anfrage durch Regeln gelöst werden kann oder an einen LLM-gestützten Konversationsfluss eskaliert werden sollte. Dies stellt die richtige Balance sicher: vorhersagbare Antworten, wo Präzision zählt, und natürliche Interaktionen, wo Flexibilität entscheidend ist.

Für nuancierte Interaktionen, wie das Beschleunigen und Stornieren von Nachfüllungen, haben wir Konversations-Agenten mit LangGraph entwickelt. Diese Agenten integrieren sich über Tool Calling in Backend-Systeme, sodass sie Nachfüllanfragen in Echtzeit sicher verarbeiten können. Kunden können natürlich fragen („Können Sie meine Nachfüllung beschleunigen?“), und das System interpretiert die Absicht, während es die erforderlichen Backend-Aktionen ausführt.

Um auch während der Backend-Operationen ein menschenähnliches Gefühl aufrechtzuerhalten, haben wir Filler-Text-Antworten implementiert („Bitte warten Sie einen Moment, während ich Ihre Daten abrufe“). Diese subtilen Details stärken das Vertrauen der Kunden, indem sie das System reaktionsschnell statt robotisch wirken lassen.

Da die Lösung Apotheken dient, war Präzision bei der Interpretation von Rezepten nicht verhandelbar. Wir haben branchenspezifische Speech-to-Text-Modelle integriert, die auf pharmazeutisches Vokabular feinabstimmend angepasst wurden, um die korrekte Erkennung komplexer Arzneimittelnamen zu gewährleisten. Dies reduziert Transkriptionsfehler erheblich, die andernfalls Kunden frustrieren oder die Patientensicherheit gefährden könnten.

Alle LLM-Interaktionen werden über einen dedizierten Gateway-Service geleitet, der von einem Prompt-Management-Service unterstützt wird. Dies ermöglicht die zentrale Verwaltung von Prompts und garantiert konsistente, vorkonfigurierte Antworten, die sowohl den regulatorischen Anforderungen als auch der Brand Voice entsprechen. Updates können schnell ausgerollt werden, ohne Dutzende von Services anpassen zu müssen, was das System agil hält und gleichzeitig die Compliance sicherstellt.

Um die Customer Experience zu schützen, enthält der Voice AI Agent eine Echtzeit-Stimmungsanalyse. Wenn Frustration oder Unzufriedenheit erkannt wird, wie z. B. wiederholte negative Antworten oder steigende emotionale Intensität, kann das System eine Eskalation an einen menschlichen Agenten auslösen. Dies stellt sicher, dass sensible Situationen mit Empathie gehandhabt werden, um zu verhindern, dass negative Kundenerlebnisse eskalieren.

Die Leistungsüberwachung wird von Analytics AI übernommen, einem Agentic-Service, der entwickelt wurde, um Ereignisse aus dem gesamten System zu analysieren. Er verbessert den Geschäftsbetrieb durch:

• Bewertung von Stimmungstrends über Millionen von Gesprächen hinweg, um frustrierte oder unzufriedene Kunden zu erkennen.
• Automatische Generierung von SQL-Abfragen über Geschäftsbereiche hinweg (Apothekenbetrieb, Bestand, Callcenter-Metriken).
• Intelligente Weiterleitung von Abfragen an den richtigen Datensatz, um kategoriespezifische Analysen durchzuführen.
• Messung der Leistung auf Service-Ebene, wodurch Schwachstellen oder neu entstehende Engpässe hervorgehoben werden.

Dies schließt die Lücke zwischen Technologie und Business und bietet sowohl Transparenz als auch umsetzbare Erkenntnisse.

Das System wird bereits in ~2.000 von 10.000 Filialen eingesetzt und bedient täglich Tausende von Kunden. Das hybride Modell garantiert Skalierbarkeit, ohne das Vertrauen zu gefährden: LLMs verbessern die Kundeninteraktionen dort, wo es nötig ist, während Regeln in den meisten Fällen Zuverlässigkeit und Geschwindigkeit garantieren. Erste Bereitstellungen zeigen erhebliche Verbesserungen bei Effizienz, Anruflösung und Kundenzufriedenheit.

Kurz gesagt ist das hybride Design kein Kompromiss – es ist eine strategische Brücke. Es ermöglicht Unternehmen, KI heute verantwortlich einzuführen und gleichzeitig den Weg für eine Zukunft zu ebnen, in der LLMs einen noch größeren Teil der Last übernehmen können.

4. Die Kompromisse: Transparenz über Komplexität und Wartung

Während der hybride Voice-AI-Ansatz das Übergangsproblem löst, bringt er auch seine eigenen Zielkonflikte mit sich. Für Unternehmen, die hunderte Millionen von Kundenanrufen verwalten, sind diese Kompromisse keine Nebensächlichkeiten – sie prägen die Gesamtkosten des Betriebs (TCO), die organisatorische Bereitschaft und die langfristige Nachhaltigkeit.

1. Erhöhte Architekturkomplexität

In einem rein regelbasierten System ist die Logik deterministisch und relativ einfach nachzuvollziehen. In einem reinen LLM-System könnte die Architektur theoretisch auf eine Konversations-Engine plus Backend-Integrationen vereinfacht werden. Ein hybrides System erfordert jedoch beides. Das bedeutet die Wartung paralleler Infrastrukturen:

• Deterministische Abläufe für die überwiegende Mehrheit der allgemeinen Anfragen.
• KI-gestützte Abläufe für nuancierte, hochwertige Interaktionen.
• Eine intelligente Routing-Schicht, die entscheidet, welcher Pfad aktiviert wird.

Der Vorteil ist Flexibilität und Resilienz, aber der Kompromiss ist eine komplexere Architektur, die funktionsübergreifende Teams für Design, Überwachung und kontinuierliche Abstimmung erfordert.

2. Höherer Wartungsaufwand

Traditionelle IVRs erfordern gelegentliche Skript-Updates. Im Gegensatz dazu benötigt ein hybrides System fortlaufende Wartung an mehreren Fronten:

• Klassifikator-Nachtraining: Routing-Modelle genau halten, wenn neue Anrufmuster entstehen.
• Domänenspezifische Modelle: Pflege von Speech-to-Text-Engines, die auf pharmazeutisches Vokabular oder andere Branchenanforderungen feinabstimmend angepasst sind.
• Monitoring-Pipelines: Sicherstellen, dass die Überwachungstools die richtigen Ereignisse erfassen und nutzbare Erkenntnisse liefern.

Dies führt zu neuen Wartungsrhythmen, die eher dem Software-Produktlebenszyklus-Management ähneln als dem traditionellen Telefonie-Support.

3. Balance zwischen Kosteneffizienz und Leistung

Während regelbasierte Fast-Paths 90–95 % der Anrufe mit einfacher und einzelner Absicht effizient halten, entstehen beim Hybridsystem dennoch Kosten durch:

• Den Betrieb von LLMs für komplexe Abläufe.
• Den Betrieb dualer Infrastrukturen.
• Investitionen in spezialisierte Überwachungs- und Analysesysteme.

Unternehmen müssen abwägen, ob die Verbesserung der Customer Experience die zusätzlichen Kosten rechtfertigt. In vielen Fällen tut sie das, aber die ROI-Berechnung hängt von den Branchenmargen, regulatorischen Risiken und den Kundenerwartungen ab.

4. Komplexität von Governance und Compliance

Unternehmen, insbesondere im Gesundheitswesen, Banken- und Versicherungswesen, müssen strenge Compliance-Vorgaben einhalten. Ein hybrides System führt zu mehr beweglichen Teilen:

• Regelbasierte Antworten bieten Compliance by Design.
• LLM-basierte Abläufe erfordern Guardrails, Auditing und Echtzeit-Überwachung auf Halluzinationen oder markenfremde Sprache.
• Intelligentes Routing muss Erklärbarkeit beweisen: Warum ging ein bestimmter Anruf an ein LLM im Vergleich zu einer Regel?

Dies erhöht die Governance-Komplexität, bietet aber auch eine Chance: Das hybride System kann für größere Transparenz instrumentiert werden als jeder der Ansätze für sich allein.

5. Organisatorischer Wandel der Fähigkeiten

Schließlich erfordert die hybride Einführung neue Fähigkeiten. Unternehmen benötigen nicht nur IVR-Designer, sondern auch:

• Data Scientists für Routing-Klassifikatoren.
• Prompt Engineers für LLM-Abläufe.
• AI Operations Teams zur Verwaltung von Echtzeit-Überwachung, Stimmungsanalyse und Eskalationsauslösern.

Dieser Wandel bei den Fachkräften ist eine wesentliche Überlegung für Unternehmen mit traditionellen Callcenter-IT-Teams.

Das Fazit

Der hybride Voice-AI-Ansatz ist kein „Set and Forget“. Es ist ein lebendiges System, das sorgfältiges Design, kontinuierliche Überwachung und organisatorische Investitionen erfordert. Die Belohnung ist eine belastbare Brücke, die es Unternehmen ermöglicht, KI zu nutzen, ohne auf Zuverlässigkeit zu verzichten. Aber der Zielkonflikt ist real: höhere Komplexität, höherer Wartungsaufwand und fortlaufender Governance-Bedarf.

Für Entscheidungsträger ist die offene Anerkennung dieser Kompromisse der Schlüssel zum Aufbau von Vertrauen bei technischen, operativen und Compliance-Stakeholdern.

5. Zukunftsaussichten – Die Kurven von Alt und Neu ausbalancieren

Die Evolution der Technologien für Kundeninteraktionen verläuft nicht geradlinig – sie folgt Zyklen. Neue Innovationen steigen mit großen Versprechungen auf, erleben unvermeidliche Rückschläge und finden schließlich ihren Platz im Enterprise-Werkzeugkasten. Gleichzeitig verschwinden traditionelle Technologien nicht einfach; sie korrigieren sich, stabilisieren sich und liefern weiterhin Wert in Nischen, in denen ihre Stärken unerreicht sind.

Eine Möglichkeit, darüber nachzudenken, besteht darin, den Gartner Hype Cycle zu erweitern, der darstellt, wie sich neue Technologien vom „Technologischen Auslöser“ über die „Spitze der überhöhten Erwartungen“, das „Tal der Enttäuschung“ und schließlich zum „Plateau der Produktivität“ bewegen. Neben dieser Kurve können wir ein Spiegelbild zeichnen: die „Überlebenskurve“ traditioneller Technologien.

• Auf der Spitze der überhöhten Erwartungen:
  Wenn die Begeisterung für die neue Technologie stark ansteigt, wird die alte verfrüht für obsoleterklärt. In unserem Bereich geschieht dies mit regelbasierten IVRs. Der Hype um Conversational AI hat den Eindruck erweckt, dass deterministische Anrufabläufe bereits irrelevant sind, obwohl sie für vorhersagbare, sich wiederholende Aufgaben hochgradig effizient bleiben.
  
  
• Im Tal der Enttäuschung:
  Wenn die Grenzen der neuen Technologie deutlich werden – hohe Kosten, Zuverlässigkeitslücken, Compliance-Risiken – erleben traditionelle Systeme oft ein Wiederaufleben. Unternehmen entdecken die Stabilität und Vorhersehbarkeit regelbasierter Systeme neu und schätzen deren Kosteneffizienz und Präzision. In dieser Phase stützen sich Organisationen stärker auf Hybride, um den Betrieb zu stabilisieren, während sie weiterhin mit KI experimentieren.
  
  
• Auf dem Plateau der Produktivität:
  Schließlich reift die neue Technologie aus, ihre Anwendungsfälle sind gut verstanden und Bereitstellungs-Frameworks machen sie sicher und skalierbar. An diesem Punkt verschwindet die alte Technologie nicht, sondern sie verlagert sich auf sehr spezifische, unbestrittene Anwendungsfälle. Für IVR bedeutet dies, dass Regeln das beste Werkzeug bleiben, wenn Compliance die absolute Kontrolle über die Formulierung erfordert oder wenn die Kosten selbst einer geringfügigen Fehlinterpretation unannehmbar sind.

Abbildung 1: Hype-Cycle neuer Technologien und Widerstandskraft alter Technologien

Wo wir heute stehen

Nach den meisten Indikatoren nähern sich KI-gestützte Sprachagenten immer noch der Spitze der überhöhten Erwartungen. Unternehmen sind begeistert von ihrem transformativen Potenzial, beginnen aber auch, ihre Anfälligkeit im großen Maßstab zu erfahren. Die Wahrheit ist, dass wir uns immer noch im Prozess befinden, die richtige Balance zu finden: wo KI das Erlebnis verbessert und wo Regeln Leitplanken bieten.

Diese Balance ist kein Kompromiss; sie ist eine strategische Brücke über die Kurven hinweg. Indem Unternehmen jetzt hybride Ansätze verfolgen, stellen sie sich so auf, dass sie die Vorteile von KI-Innovationen nutzen können, ohne die Zuverlässigkeit bewährter Systeme aufzugeben. Im Laufe der Zeit, wenn sich die KI ihrem Plateau der Produktivität nähert, wird sich die Rolle der traditionellen IVR verengen, aber sie wird nie ganz verschwinden – sie wird in jenen nischenartigen, geschäftskritischen Kontexten fortbestehen, in denen Vorhersehbarkeit weiterhin das entscheidende Kriterium ist.

‍