Höflich, selbstsicher, falsch: Was ein Lizenz-Chat über KI-Support verrät
KI-Chatbots im Kundenservice klingen fast immer gleich: freundlich, hilfsbereit, sicher in ihrer Antwort. Genau das macht sie so angenehm zu benutzen – und genau das ist ihr Problem. Denn ein selbstbewusster Ton sagt nichts über die Richtigkeit einer Antwort aus. Ein aktueller Fall aus unserem eigenen Alltag zeigt das sehr konkret.
Die Ausgangsfrage
Wir nutzen für unseren Podcast einen Anbieter für lizenzierte Musik und Soundeffekte. Während eines laufenden Abonnements haben wir daraus ein rund zehnsekündiges Jingle gebaut, das künftig jede Episode einleiten soll. Die naheliegende Frage: Dürfen wir dieses Jingle auch noch in fünf Jahren in einer neuen Episode verwenden, falls das Abo dann längst nicht mehr aktiv ist?
Eine Frage mit klarer rechtlicher Relevanz – also genau die Art von Frage, bei der man sich auf die Antwort verlassen möchte.
Antwort 1: freundlich formuliert, inhaltlich falsch
Der Support-Chatbot des Anbieters antwortete prompt und in bestem Ton: Solange das Jingle während eines aktiven Abos veröffentlicht wurde, dürfe es auch in künftigen Episoden weiterverwendet werden – ausdrücklich auch in einer neuen Episode, die erst in fünf Jahren ganz ohne aktives Abo erscheint.
Das klang plausibel. Es war aber falsch – zumindest laut der Antwort, die wir tags darauf von einem Menschen erhielten.
Weil die Frage für uns geschäftskritisch war, haben wir im Chat ausdrücklich um menschliche Prüfung gebeten. Der Chatbot eskalierte den Fall, ein Ticket wurde angelegt.
Antwort 2: die menschliche Klärung
Am nächsten Tag kam die Antwort eines Support-Mitarbeiters per E-Mail – deutlich präziser: Eine Episode, die während eines aktiven Abos veröffentlicht wird, bleibt dauerhaft abgedeckt, auch nach Ende des Abos. Eine *neue* Episode mit demselben Jingle, veröffentlicht ohne aktives Abo, ist davon aber nicht mehr gedeckt. Für jede neue Veröffentlichung braucht es ein zu diesem Zeitpunkt aktives Abo.
Ein wichtiger Unterschied – und genau das Gegenteil dessen, was der Chatbot zunächst behauptet hatte.
Antwort 3: dieselbe Frage, ein Tag später, plötzlich richtig
Aus Neugier haben wir am nächsten Tag genau dieselbe Frage noch einmal an denselben Chatbot gestellt. Diesmal war die Antwort korrekt und deckte sich mit der Auskunft des Support-Mitarbeiters: Neue Veröffentlichungen ohne aktives Abo sind nicht abgedeckt.
Ob der Bot in der Zwischenzeit angepasst wurde, ob es schlicht Zufall war, oder ob die Antwort situationsabhängig variiert – das lässt sich von außen nicht beurteilen. Bemerkenswert ist etwas anderes: Dieselbe Frage, derselbe Bot, ein Tag Abstand, zwei unterschiedlich belastbare Antworten. Wer sich auf die erste verlassen hätte, wäre möglicherweise mit einer Rechtsverletzung in eine neue Podcast-Staffel gestartet.
Der Disclaimer, der alles relativiert
Fast jeder KI-Support-Chat startet heute mit einem Hinweis in der Art: „Ich werde von KI unterstützt. Ergebnisse können variieren – bitte wichtige Details für kritische Entscheidungen selbst prüfen.“ Genau dieser Satz war hier hochrelevant. Er bedeutet im Kern: Der freundliche, sicher klingende Ton der Antwort hat keinerlei rechtliche oder praktische Verbindlichkeit. Das Unternehmen ist durch diesen einen Satz bereits vollständig abgesichert – unabhängig davon, wie überzeugend die Antwort formuliert ist.
Für Nutzer entsteht dadurch eine tückische Lücke: Der Ton der Antwort suggeriert Verlässlichkeit, die Rechtslage des Disclaimers sagt das Gegenteil.
Was das für den Umgang mit KI-Support bedeutet
Drei Punkte aus diesem Fall lassen sich verallgemeinern:
Erstens: Der Ton einer KI-Antwort ist kein Qualitätsmerkmal. Chatbots sind fast immer höflich und selbstsicher formuliert – unabhängig davon, ob die Antwort stimmt.
Zweitens: Bei Fragen mit rechtlicher, finanzieller oder sonst geschäftskritischer Tragweite lohnt sich die explizite Eskalation an einen Menschen, und die schriftliche Bestätigung sollte man aufbewahren.
Drittens: KI-Antworten sind nicht notwendigerweise konsistent. Dieselbe Frage kann an unterschiedlichen Tagen unterschiedlich beantwortet werden. Wer eine Antwort für wichtig genug hält, um sie zu dokumentieren, sollte sie auch für wichtig genug halten, sie zweimal zu prüfen.
Für Unternehmen, die selbst KI-gestützten Support oder KI-Funktionen in ihre Software einbauen, steckt darin eine weitere Lehre: Ein Standard-Chatbot mit generischem Sprachmodell kann genau in den Momenten versagen, die für Kunden am wichtigsten sind. Verlässlichkeit bei kritischen Fragen entsteht nicht automatisch – sie muss gezielt in die Architektur einer KI-Lösung eingebaut werden, etwa durch klare Eskalationspfade, geprüfte Wissensquellen und definierte Grenzen dafür, wo eine KI selbstständig antworten darf und wo nicht.
Genau an dieser Stelle setzen wir bei NEOMO an, wenn wir bestehende Prozesse oder Software-Lösungen mit KI optimieren. Wir behandeln ein Sprachmodell bewusst nicht als Orakel, das aus seinem eigenen, unscharfen Wissen antwortet, sondern als Werkzeug, das vorhandene, geprüfte Inhalte gezielt verarbeitet. Konkret heißt das: Wir arbeiten mit sauber aufbereiteten Datengrundlagen statt mit dem freien Gedächtnis eines Modells, verpflichten die KI dazu, jede Aussage auf eine konkrete Quelle im Ausgangsmaterial zurückzuführen, und erlauben ihr ausdrücklich, „das steht nicht in den Unterlagen“ zu antworten, statt zu raten. An geschäftskritischen Stellen sitzt zusätzlich ein Mensch, dem genau diese Quellenangaben die Prüfung erleichtern. So bleibt das Risiko für falsche Ausgaben nicht dem Zufall überlassen, sondern wird von Anfang an in die Architektur eingebaut.
Warum Sprachmodelle mit wachsender Kompetenz nicht seltener, sondern nur raffinierter falsch liegen, besprechen wir ausführlich in der aktuellen Folge unseres Podcasts Digitale Wissensbissen: „Je schlauer die KI, desto subtiler die Halluzinationen“ (Staffel 2, Episode 1). Reinhören lohnt sich, gerade wenn ihr KI in geschäftskritischen Prozessen einsetzt.
