Mehr Schein als Sein: Warum ChatGPT so überzeugend klingt

Ich schätze ChatGPT sehr. Für Struktur, Sprache und starke Formulierungen ist es aus meiner Sicht herausragend.

Genau darin liegt aber auch die typische Falle: ChatGPT ist kein Lexikon, das Fakten nachschlägt und verifiziert. Es ist ein Sprachmodell, das plausible Antworten generiert und sie sehr überzeugend formuliert.

Besonders kritisch wird es dort, wo wir ChatGPT am häufigsten nutzen: wenn wir etwas nicht genau wissen. Also bei Halbwissen. Dann kann ChatGPT dieses Halbwissen sprachlich sauber weiterverarbeiten. Das Ergebnis klingt sicher und rund, ist aber manchmal mehr Schein als Sein. Die Gefahr ist, solche Ergebnisse als Fakten zu behandeln und damit weiterzuarbeiten.