„Digitale Wissenbissen“: Stirbt KI langfristig an Inzucht?

Wie bei jeder wesentlichen Technologie bietet Generative KI sowohl die Chance auf wesentliche Verbesserung unserer Lebensqualität als auch die Gefahr der Zerstörung wichtiger Aspekte unserer Gesellschaft oder die Gefahr der Selbstzerstörung.

Wenn immer mehr Inhalte mit KI generiert werden, gefährdet das unsere eigenen Fähigkeiten als intellektuell und kreative Lebewesen - es entzieht aber langfristig auch der KI selbst die Lebensgrundlage: wertvolle, originelle Trainingsdaten.

Wichtige Punkte aus der Episode

1. Schreiben ist Denken:

• Gedanken, die zu Papier gebracht (ob analog oder digital) werden, entfalten sich bewusster und langsamer, lassen sich korrigieren, neu ordnen und in andere Zusammenhänge stellen.
• Bei allem Enthusiasmus für das, was große Sprachmodelle und ihre multimodalen Verwandten leisten können, sollte man nicht zulassen, dass sie uns das Schreiben und Denken abnehmen.

2. Die „Weisheit“ des Internet-Durchschnitts

• Ein LLM wird nie etwas Außergewöhnliches oder Herausragendes produzieren, aber es wird immer wie ein Experte in fast jedem Thema klingen, ohne wirklich einer zu sein.
• In Wirklichkeit wird der Input im Prompt durch ein Sieb gestrichen, das im wesentlich die Verallgemeinerung alle schriftlichen und beim Training verfügbaren Äußerungen in der Nachbarschaft des angefragten Themas enthält. Das Ergebnis ist notwendigerweise und definitionsgemäß durchschnittlich.

3. Respekt für die Kreativen

• ChatGPT ist wie ein Mensch, der alles, was er jemals gelesen hat, sowohl wörtlich als auch paraphrasiert wiedergeben kann, aber nichts wirklich versteht.
• Dadurch ist unser klassisches Verständnis von Plagiat und Urheberrecht eigentlich kaum anwendbar.

4. Leben mit Technologie

• Wie bei jeder wesentlichen Technologie bietet Generative KI sowohl die Chance auf wesentliche Verbesserung unserer Lebensqualität als auch die Gefahr der Zerstörung wichtiger Aspekte unserer Gesellschaft.
• Generative KI bietet die Chance, existierendes Wissen effizienter zu verwerten und einzusetzen und viele Prozess zu demokratisieren.
• Sie birgt aber auch die Gefahr, dass wir uns weiter in Richtung intellektuelle Unmündigkeit entwickeln und den wenigen echt kreativen Köpfen die Lebensgrundlage entziehen.

• Podcast abonnieren