„Digitale Wissenbissen“: Stirbt KI langfristig an Inzucht?

MashMachine
Podcast
Technologie
#TextKI
#AgenticAI
#DigitaleWissensbissenS01E07

Wie bei jeder wesentlichen Technologie bietet Generative KI sowohl die Chance auf wesentliche Verbesserung unserer Lebensqualität als auch die Gefahr der Zerstörung wichtiger Aspekte unserer Gesellschaft oder die Gefahr der Selbstzerstörung.

Wenn immer mehr Inhalte mit KI generiert werden, gefährdet das unsere eigenen Fähigkeiten als intellektuell und kreative Lebewesen - es entzieht aber langfristig auch der KI selbst die Lebensgrundlage: wertvolle, originelle Trainingsdaten.

Wichtige Punkte aus der Episode

1. Schreiben ist Denken:

  • Gedanken, die zu Papier gebracht (ob analog oder digital) werden, entfalten sich bewusster und langsamer, lassen sich korrigieren, neu ordnen und in andere Zusammenhänge stellen.
  • Bei allem Enthusiasmus für das, was große Sprachmodelle und ihre multimodalen Verwandten leisten können, sollte man nicht zulassen, dass sie uns das Schreiben und Denken abnehmen.

2. Die „Weisheit“ des Internet-Durchschnitts

  • Ein LLM wird nie etwas Außergewöhnliches oder Herausragendes produzieren, aber es wird immer wie ein Experte in fast jedem Thema klingen, ohne wirklich einer zu sein.
  • In Wirklichkeit wird der Input im Prompt durch ein Sieb gestrichen, das im wesentlich die Verallgemeinerung alle schriftlichen und beim Training verfügbaren Äußerungen in der Nachbarschaft des angefragten Themas enthält. Das Ergebnis ist notwendigerweise und definitionsgemäß durchschnittlich.

3. Respekt für die Kreativen

  • ChatGPT ist wie ein Mensch, der alles, was er jemals gelesen hat, sowohl wörtlich als auch paraphrasiert wiedergeben kann, aber nichts wirklich versteht.
  • Dadurch ist unser klassisches Verständnis von Plagiat und Urheberrecht eigentlich kaum anwendbar.

4. Leben mit Technologie

  • Wie bei jeder wesentlichen Technologie bietet Generative KI sowohl die Chance auf wesentliche Verbesserung unserer Lebensqualität als auch die Gefahr der Zerstörung wichtiger Aspekte unserer Gesellschaft.
  • Generative KI bietet die Chance, existierendes Wissen effizienter zu verwerten und einzusetzen und viele Prozess zu demokratisieren.
  • Sie birgt aber auch die Gefahr, dass wir uns weiter in Richtung intellektuelle Unmündigkeit entwickeln und den wenigen echt kreativen Köpfen die Lebensgrundlage entziehen.
MashMachine
MashMachine
KI Knecht
Künstliche Intelligenz, die Ihre Werke unter die Leute bringt.

Weitere Blogartikel

„Digitale Wissenbissen“: Generative KI-Agenten - Ein Job, ein Bot

In dieser Episode tauchen wir tief in die Welt der Agentic AI ein und erkunden, ob spezialisierte KI-Agenten Geschäftsprozesse revolutionieren können, indem sie komplexe Aufgaben autonom und effizient bewältigen.

Image

"Digitale Wissensbissen": Die Zukunft der Datenanalyse – Ein Gespräch mit Christian Schömmer

Data Warehouse, Data Lake, Data Lakehouse - die Begriffe eskalieren stetig. Aber was brauche ich wirklich für welchen Zweck? Reicht meine alte (und teure) Datenbank oder würde ein "Data Lakehouse" mein Geschäft so richtig weiterbringen? Gerade in der Kombination mit Generativer KI sind die Möglichkeiten so vielfältig wie verwirrend. Gemeinsam mit Christian Schömmer setzen wir uns vors Datenhaus am See und gehen der Sache auf den Grund.

Image

"Digitale Wissensbissen": Generative KI in geschäftskritischen Prozessen

Nach der etwas kritischen Sicht auf generative KI in der letzten Episode geht es diesmal um den konkreten Einsatz: Kann man generative KI schon in Geschäftsprozessen integrieren und wenn ja, wie geht das genau. Es stellt sich heraus: Wenn man zwei oder drei Grundregeln beachtet, treten die meisten der Probleme in den Hintergrund und die coolen Möglichkeiten generative KI kommen relativ risikofrei zur Geltung. Wir gehen sehr konkret darauf ein, wie wir eine Compliance-Anwendung gebaut haben, die maximal von Large Language Models profitiert, ohne auf menschliche Kontrolle und "Accountability" zu verzichten.