Stirbt KI langfristig an Inzucht?

MashMachine
Podcast
Technologie
#TextKI
#AgenticAI
#DigitaleWissensbissenS01E07

Wie bei jeder wesentlichen Technologie bietet Generative KI sowohl die Chance auf wesentliche Verbesserung unserer Lebensqualität als auch die Gefahr der Zerstörung wichtiger Aspekte unserer Gesellschaft oder die Gefahr der Selbstzerstörung.

Wenn immer mehr Inhalte mit KI generiert werden, gefährdet das unsere eigenen Fähigkeiten als intellektuell und kreative Lebewesen - es entzieht aber langfristig auch der KI selbst die Lebensgrundlage: wertvolle, originelle Trainingsdaten.

Wichtige Punkte aus der Episode

1. Schreiben ist Denken:

  • Gedanken, die zu Papier gebracht (ob analog oder digital) werden, entfalten sich bewusster und langsamer, lassen sich korrigieren, neu ordnen und in andere Zusammenhänge stellen.
  • Bei allem Enthusiasmus für das, was große Sprachmodelle und ihre multimodalen Verwandten leisten können, sollte man nicht zulassen, dass sie uns das Schreiben und Denken abnehmen.

2. Die „Weisheit“ des Internet-Durchschnitts

  • Ein LLM wird nie etwas Außergewöhnliches oder Herausragendes produzieren, aber es wird immer wie ein Experte in fast jedem Thema klingen, ohne wirklich einer zu sein.
  • In Wirklichkeit wird der Input im Prompt durch ein Sieb gestrichen, das im wesentlich die Verallgemeinerung alle schriftlichen und beim Training verfügbaren Äußerungen in der Nachbarschaft des angefragten Themas enthält. Das Ergebnis ist notwendigerweise und definitionsgemäß durchschnittlich.

3. Respekt für die Kreativen

  • ChatGPT ist wie ein Mensch, der alles, was er jemals gelesen hat, sowohl wörtlich als auch paraphrasiert wiedergeben kann, aber nichts wirklich versteht.
  • Dadurch ist unser klassisches Verständnis von Plagiat und Urheberrecht eigentlich kaum anwendbar.

4. Leben mit Technologie

  • Wie bei jeder wesentlichen Technologie bietet Generative KI sowohl die Chance auf wesentliche Verbesserung unserer Lebensqualität als auch die Gefahr der Zerstörung wichtiger Aspekte unserer Gesellschaft.
  • Generative KI bietet die Chance, existierendes Wissen effizienter zu verwerten und einzusetzen und viele Prozess zu demokratisieren.
  • Sie birgt aber auch die Gefahr, dass wir uns weiter in Richtung intellektuelle Unmündigkeit entwickeln und den wenigen echt kreativen Köpfen die Lebensgrundlage entziehen.
MashMachine
MashMachine
KI Knecht
Künstliche Intelligenz, die deine Werke unter die Leute bringt.

Weitere Blogartikel

260 Chicken McNuggets: Wo KI-Pilotprojekte an die Wand fahren

Warum bringen 95 % der KI-Piloten nichts Messbares? Weil die Demo den besten Tag des Systems zeigt — und der Betrieb am Durchschnitt gemessen wird. Folge 2 seziert die teuerste Strecke jedes KI-Projekts: die zwischen dem Applaus für die Vorführung und dem Montagmorgen, an dem das Ding wirklich laufen soll. An echten Fällen — Klarna, McDonald's mit 260 Chicken McNuggets, den ernüchternden IBM- und MIT-Zahlen — und mit der einen Frage, die Verkäufer von Bauleuten trennt.

Image

Höflich, selbstsicher, falsch: Was ein Lizenz-Chat über KI-Support verrät

KI-Chatbots im Kundenservice klingen fast immer gleich: freundlich, hilfsbereit, sicher in ihrer Antwort. Genau das macht sie so angenehm zu benutzen – und genau das ist ihr Problem. Denn ein selbstbewusster Ton sagt nichts über die Richtigkeit einer Antwort aus. Ein aktueller Fall aus unserem eigenen Alltag zeigt das sehr konkret.

Je schlauer die KI, desto subtiler die Halluzinationen

Warum erfindet KI Quellen, Zitate und ganze Gerichtsurteile? Weil sie nicht lügt, sondern rät — und wir ihr das Raten antrainiert haben. Der falsche Satz klingt dabei exakt wie der richtige, und je besser die Modelle werden, desto schwerer ist er zu ertappen. Folge 1 zeigt an echten Fällen — Deloitte, Air Canada, ein Anwalt mit 10.000 $ Strafe —, warum Halluzinationen kein Bug sind, sondern eine Eigenschaft. Und welcher eine Umschwenk KI vom Risiko zum belastbaren Werkzeug macht.