Je schlauer die KI, desto subtiler die Halluzinationen
Mitte 2025 liefert eine der größten Beratungen der Welt der australischen Regierung einen Bericht ab. Preis: rund 290.000 US-Dollar. Inhalt: wissenschaftliche Quellen, die es nicht gibt, und ein wörtliches Zitat aus einem Gerichtsurteil, das nie so gefallen ist. Aufgeflogen ist die Sache, weil ein einzelner Forscher nachgeschlagen hat. Deloitte musste einen Teil des Honorars zurückzahlen — und einräumen, dass bei der Erstellung ein KI-Sprachmodell mit im Spiel war.
Das ist kein Praktikant, der geschlampt hat. Das ist eine Firma, deren gesamtes Geschäft darauf beruht, dass ihre Berichte stimmen. Und sie ist in bester Gesellschaft: Ein Anwalt in Kalifornien zahlte 10.000 Dollar Strafe, weil von 23 Zitaten in seinem Schriftsatz 21 frei erfunden waren. Nicht ungenau — erfunden.
In Folge 1 der 2. Staffel nehmen wir das eine Verhalten auseinander, das all diese Leute kalt erwischt hat: die Halluzination. Ein hübscher Name für einen unbequemen Befund — und dieser Name ist schon Teil des Problems.
Kernsätze der Folge
- „Es lügt nicht — lügen hieße, die Wahrheit zu kennen und bewusst abzuweichen. Das Modell rät. Souverän, flüssig, im perfekten Ton — und manchmal grandios falsch."
- „Wir haben uns einen Bluffer herangezüchtet und wundern uns, dass er blufft." — Modelle werden fürs Antworten belohnt und fürs Schweigen bestraft. Raten kann nur gewinnen.
- „Der falsche Satz klingt exakt so wie der richtige. Kein Zögern, kein Stirnrunzeln, kein Ton, der euch warnt."
- „Wer mehr sagt, sagt mehr Wahres und mehr Falsches." — Bei OpenAIs neuen „Reasoning"-Modellen stieg die Halluzinationsrate im eigenen Test von 16 auf 33 Prozent, beim kleineren Modell sogar auf 48. Besser heißt hier: schwerer zu ertappen.
- „Die Rechnung zahlt am Ende ihr — auch für das, was eure KI sagt." — Air Canada versuchte vor Gericht, den eigenen Chatbot zur eigenständigen Rechtsperson zu erklären. Das Gericht räumte das in einem Satz ab.
- „Benutzt das Modell nicht als Orakel, das alles weiß."
Worum es wirklich geht
Halluzinationen sind kein Bug, der mit dem nächsten Update verschwindet. Sie sind eine Eigenschaft dieser Technik: antrainiert durch die Art, wie wir Modelle bewerten, mit den heutigen Methoden nicht auf null zu bringen — und sie werden subtiler, nicht harmloser, je besser die Modelle werden. Die plumpen Fehler, über die das halbe Internet lacht, verschwinden. Übrig bleibt der Fehler, der perfekt aussieht: die eine falsche Zahl im ansonsten tadellosen Bericht, das erfundene Zitat im exakt richtigen Ton.
Die gute Nachricht: Fast alle Fälle von heute haben dieselbe Ursache, und wer sie versteht, dreht das Risiko an der Wurzel ab. Es geht um den Unterschied zwischen einer KI, von der man am Ende enttäuscht ist, und einer, auf die man einen Geschäftsprozess bauen kann.´
Wie der entscheidende Umschwenk funktioniert und mit welchen vier Handgriffen man die restlichen Fehler sichtbar und billig hält, hört ihr in der Folge.
