GPT-4o im Kundenservice: Was die sprechende KI für Kundenkontakt ändert

GPT-4o macht Sprachdialoge in Gesprächstempo möglich und verschiebt damit die Frage im Kundenservice von der Technik zur Auswahl der Anliegen, die eine KI übernehmen darf. Die Geschwindigkeit war bisher eine der größten Hürden für natürliche Telefonate mit Maschinen. Mit ihr entfällt eine Ausrede, und es bleibt die Aufgabe, Anliegen und Qualitätsmaßstab sowie die Übergabe an Menschen sauber festzulegen.

Dieser Beitrag ordnet die Ankündigung vom 13. Mai 2024 für Entscheider im Kundenservice ein, bewertet Anliegen nach Eignung und beschreibt ein Vorgehen für einen Pilot, der im Betrieb besteht. Berührt wird auch die Aufzeichnung von Gesprächen, die rechtlich geprüft werden muss. Dieser Beitrag gibt einen Überblick und ersetzt keine Rechtsberatung.

Was ist GPT-4o und was kann es im Gespräch?

GPT-4o ist ein KI-Modell von OpenAI, das Text sowie Bild und Ton in einem einzigen Modell verarbeitet und Sprache direkt versteht und erzeugt. Das „o“ steht für „omni“. Bisher bestand der Sprachmodus von ChatGPT aus drei hintereinander geschalteten Schritten: Ein Modell wandelte Sprache in Text um, ein zweites Modell formulierte die Antwort, ein drittes sprach sie. Nach Herstellerangaben lagen die durchschnittlichen Antwortzeiten dabei bei 2,8 Sekunden mit GPT-3.5 und bei 5,4 Sekunden mit GPT-4. Außerdem gingen Betonung und Pausen auf dem Weg verloren, ebenso Hintergrundgeräusche. Für GPT-4o nennt der Hersteller Antwortzeiten ab 232 Millisekunden, im Mittel 320 Millisekunden.

Diese Zahl gewinnt Gewicht im Vergleich zum menschlichen Gespräch. Eine vielzitierte Untersuchung zu zehn Sprachen hat gezeigt, dass die Pause zwischen zwei Sprecherwechseln im Mittel bei rund 200 Millisekunden liegt. Ein System, das in dieser Größenordnung antwortet, wirkt am Telefon nicht mehr wie ein Automat mit Denkpause. Es kann unterbrochen werden, reagiert auf den Tonfall und antwortet in der Sprache des Anrufers.

Zum Zeitpunkt der Ankündigung sind Text- und Bildfunktionen verfügbar, die neuen Sprachfunktionen sollen schrittweise in den kommenden Wochen folgen, und die Audioschnittstelle für Entwickler steht zunächst einem kleinen Kreis von Partnern offen. Wer Kundenkontakt per Sprache plant, kann also heute das Szenario beschreiben und die Bewertung vorbereiten, aber noch keinen belastbaren Betriebstest mit eigener Telefonie aufsetzen. Die Zeit bis zur Freigabe reicht für die Arbeit, die ohnehin den Ausschlag gibt.

Was ändert sich im Kundenservice konkret?

Im Kundenservice ändert sich die Hürde, an der Sprachautomatisierung bisher scheiterte: das Gefühl der Kunden, mit einer Maschine zu kämpfen. Klassische Sprachmenüs mit Tastenwahl und starren Spracherkennungsdialogen lösen viele Anliegen, aber sie zwingen Anrufer in vorgegebene Pfade. Ein Sprachmodell versteht Sätze wie „Meine Lieferung von Dienstag ist noch nicht da, und ich bin ab morgen verreist“ und kann den Status abfragen und Alternativen anbieten, danach fasst es das Gespräch zusammen.

Der Wert entsteht dabei aus zwei Quellen. Die erste ist die Entlastung des Teams durch abgeschlossene Standardkontakte. Die zweite ist die Qualität in den Kontakten, die beim Menschen bleiben. Hier liegt das belastbarste Material aus der Forschung: Eine Feldstudie mit über 5.000 Servicekräften in einem Kundenchat zeigte, dass ein KI-Assistent, der Antwortvorschläge liefert, die Zahl gelöster Fälle je Stunde im Mittel um 14 Prozent steigerte, bei Neulingen um 34 Prozent. Die Studie untersuchte Assistenz für Mitarbeitende im Text. Sie zeigt trotzdem, wo ein Teil des Hebels liegt: Wissen, das bisher bei erfahrenen Kräften saß, steht allen Mitarbeitenden zur Verfügung.

Zwischen beiden Einsatzarten besteht ein Unterschied im Risiko. Ein Assistent für Mitarbeitende hat immer einen Menschen vor dem Kunden, der Fehler abfängt. Bei einem Sprachagenten, der direkt mit Kunden spricht, steht die Antwort ohne Korrektiv. Die Reihenfolge der Einführung folgt daraus: zuerst Assistenz im Hintergrund, dann Selbstbedienung für die klarsten Anliegen, zuletzt komplexere Gespräche.

Welche Kundenanliegen eignen sich für Sprach-KI?

Für Sprach-KI eignen sich Anliegen mit hohem Volumen, die sich eindeutig lösen lassen und verlässliche Daten im Hintergrund nutzen. Die folgende Tabelle ordnet typische Anliegen nach Eignung für den direkten Kundenkontakt und nennt die Voraussetzung für den Start.

Die Tabelle zeigt ein Muster: Je höher die Folgen eines Fehlers und je emotionaler der Anrufer, desto früher muss ein Mensch übernehmen. Eine gute Sprach-KI erkennt diese Lage am Inhalt und am Ton und gibt das Gespräch samt Zusammenfassung weiter, damit der Kunde nichts wiederholen muss.

Wie prüfen Sie, ob ein Pilot Aussicht auf Betrieb hat?

Ein Pilot hat Aussicht auf Betrieb, wenn sechs Fragen mit Ja beantwortet sind. Sie erfassen die Punkte, an denen Sprachprojekte im Alltag scheitern, obwohl die Demonstration überzeugte.

1. Liegen die zehn häufigsten Kontaktgründe mit Anteil am Gesamtvolumen vor, und sind mindestens zwei davon eindeutig lösbar?
2. Ist für jedes dieser Anliegen definiert, welche Systeme die Antwort liefern und wer deren Datenqualität verantwortet?
3. Gibt es einen Ausgangswert je Anliegen, etwa Bearbeitungsdauer, Lösungsquote beim ersten Kontakt und Kundenzufriedenheit?
4. Ist die Übergabe an einen Menschen beschrieben, mit Auslösern und Erreichbarkeit sowie Zusammenfassung?
5. Wurde mit echten Anrufen getestet, einschließlich Dialekt und Hintergrundlärm sowie Unterbrechungen, und nicht mit Beispielsätzen aus dem Büro?
6. Hat die Serviceleitung einen Eigentümer für den Betrieb ab dem ersten Tag benannt?

Aus diesen Antworten ergibt sich der Business Case. Ein Rechenweg dafür: Anzahl der Anrufe je Monat mal Anteil des Anliegens mal Quote, die abschließend gelöst wird, ergibt die Zahl der entlasteten Kontakte. Diese multiplizieren Sie mit den vollen Kosten eines menschlich bearbeiteten Kontakts und ziehen die laufenden Kosten der Lösung ab, also Nutzung, Betrieb, Pflege der Wissensbasis und Qualitätsprüfung. Bei 10.000 Anrufen im Monat, einem Anteil von 20 Prozent für das Anliegen und einer Lösungsquote von 60 Prozent sind das 1.200 entlastete Kontakte. Diese Zahlen sind ein Rechenbeispiel zur Veranschaulichung. Entscheidend ist, dass Sie die Lösungsquote aus einem Test mit echten Anrufen übernehmen. Eine geschätzte Quote macht jeden Business Case angreifbar. Wie sich solche Annahmen belegen lassen, beschreibt der Beitrag zu KI-Erfolgsgeschichten, und Hinweise auf überzogene Produktversprechen liefert der Beitrag zu KI-Washing.

Welche Risiken gehören vor den ersten Anruf geklärt?

Vor dem ersten Anruf müssen drei Risiken geklärt sein: falsche Auskünfte, fehlende Transparenz sowie unkontrollierte Kosten. Sprachmodelle formulieren auch dann flüssig, wenn die Antwort falsch ist. Für Auskünfte mit finanziellen Folgen, etwa Preise und Zusagen, sollte der Agent ausschließlich Inhalte aus freigegebenen Quellen wiedergeben und bei Unsicherheit übergeben. Kunden sollten zu Beginn erfahren, dass sie mit einer KI sprechen. Für Aufzeichnung und Verarbeitung von Gesprächsdaten klären die Fachleute für Recht und Datenschutz den Rahmen vor dem Test. Bei den Kosten lohnt der Blick auf die Gesprächsminute: Der Hersteller nennt für GPT-4o in der Schnittstelle einen halb so hohen Preis wie für das Vorgängermodell GPT-4 Turbo, doch Sprachgespräche verbrauchen viele Einheiten, und eine Rechnung je gelöstem Kontakt ist aussagekräftiger als ein Preis je Einheit.

Auch die Organisation verlangt Aufmerksamkeit. Wo Wissen bisher in den Köpfen der Teams lag, muss es als gepflegte Wissensbasis vorliegen. Jede Preisänderung und jede neue Regel gehört dann in den Prozess der Pflege. Wer diese Aufgabe keiner Rolle zuweist, erlebt nach drei Monaten veraltete Auskünfte. Ebenso entsteht bei Mitarbeitenden die Sorge, ersetzt zu werden. Sie lässt sich entkräften, wenn die Geschäftsführung früh benennt, welche Aufgaben entfallen und welche wachsen, etwa die Bearbeitung der schwierigen Fälle und die Pflege der Wissensbasis.

Ein weiteres Risiko liegt in der Parallelität. Wenn jede Abteilung ein eigenes Sprachwerkzeug einführt, entstehen mehrere Zugänge mit unterschiedlicher Qualität, ein Muster, das der Beitrag zum KI-Abo-Wildwuchs beschreibt. Ein zentrales Verzeichnis der Anwendungen mit Eigentümer und Kennzahl verhindert das.

Das Vorgehen in drei Schritten

Das Vorgehen beginnt mit der Auswahl der Anliegen, setzt einen kleinen Pilot mit Übergabe auf und endet mit einer Entscheidung auf Basis der Kennzahlen.

1. Auswahl: Aus den Kontaktgründen der letzten sechs Monate wählen Sie ein bis zwei Anliegen mit hohem Volumen und eindeutiger Lösung bei geringer Fehlerfolge. Der Fachbereich Service legt Ausgangswerte fest.
2. Pilot: Das Anliegen läuft zunächst im Hintergrund, indem das System Antworten vorschlägt und Mitarbeitende sie freigeben. Danach übernimmt es einen kleinen Anteil der Anrufe direkt, mit Übergabe an das Team, mit Aufzeichnung der Gründe für jede Übergabe und mit wöchentlicher Auswertung.
3. Entscheidung: Nach der vereinbarten Laufzeit entscheidet die Verantwortliche des Fachbereichs anhand der Kennzahlen, ob der Anteil steigt, das Anliegen angepasst oder der Versuch beendet wird. Abbruchkriterien stehen vorher fest.

Gemeinsam mit Niehues Consulting zum Betrieb

Niehues Consulting ist eine Beratung für KI-Management und Organisationsdesign aus der Lieferperspektive mit Sitz in Düsseldorf. Gründer Marin Niehues bringt KI in den Betrieb, in Projekten von VC-finanzierten Scaleups bis zu DAX-40-Konzernen und in über 20 Ländern auf sechs Kontinenten. Für Sprach-KI im Kundenservice reicht die Arbeit von der Analyse der Kontaktgründe und dem Business Case über Prototypen mit echten Anrufen bis zur Einführung im Servicebetrieb.

Das Vorgehen folgt dem Niehues Delivery Model mit seinen drei Phasen. Drei Prüffragen zählen hier besonders: Welches Geschäftsergebnis soll sich messbar verändern? Was ist der Ausgangswert, und woran messen wir den Erfolg? Wer verantwortet den Betrieb ab dem ersten Tag? Umfang und Konditionen eines Vorhabens werden in der kostenfreien Erstberatung besprochen, die Sie über den Kontakt in 30 Minuten vereinbaren.