Künstliche Intelligenz begleitet uns in vielen Lebensbereichen. Sie schreibt Texte, beantwortet Fragen, hilft bei Planung und Recherche. Doch wie zuverlässig ist sie wirklich? Genau das wollte der Psychologe Cornelius König von der Universität des Saarlandes wissen – und testete ChatGPT mit grammatisch intakten, aber inhaltlich sinnfreien Sätzen. Die Ergebnisse werfen ein neues Licht auf die Grenzen maschinellen Sprachverstehens.
Während wir Menschen Unsinn meist sofort erkennen, zeigt sich bei KI-Modellen ein anderes Bild: Statt Nonsens klar abzuweisen, erzeugen sie plausible, fast überzeugende Erklärungen. Was bedeutet das für unsere Kommunikation mit KI – und welche Schlüsse lassen sich daraus ziehen?
Der Nonsens-Test: Aufbau und überraschende Beobachtungen
Cornelius König entwickelte ein schlichtes Experiment: Er stellte ChatGPT Sätze zur Verfügung, die korrekt formuliert waren, aber inhaltlich keinerlei Sinn ergaben. Zum Beispiel:
„Die Idee bezieht sich auf einen Zusammenhang zwischen Fischernetzen und sozialen Medien.“
Für Menschen sofort als Nonsens erkennbar, wandelte die KI diese Aussage in elaborierte Interpretationen um – ohne jedes Zögern.
„Die Beziehung zwischen Fischernetzen und sozialen Medien“ – so argumentierte ChatGPT –, *„kann als Metapher für Netzwerkbildung verstanden werden“. Klingt tiefgründig.
Doch was dahintersteckt, ist eine Simulation von Sinn. ChatGPT kennt keine Logik, sondern Muster aus unzähligen Textbeispielen. Es erkennt nicht wirklich, was gemeint ist – es ordnet nur Wahrscheinlichkeiten zu. Sprache wird algorithmisch „nachahmt“ – nicht begriffen.
Das Resultat des Tests: Die KI erzeugt Bedeutung, wo keine existiert. Sie simuliert Verständnis, ohne es jemals wirklich zu haben.
Illusion statt Intelligenz – wie KI uns täuschen kann
Der Nonsens-Test bringt es ans Licht: ChatGPT agiert als Sprach-Simulant. Es verwendet Formeln, Redewendungen, stilistische Mittel – ohne Metakognition, also ohne Fähigkeit, „über das Denken nachzudenken“.
Menschen erkennen Unsinn automatisch. Sie fragen sich:
Macht das wirklich Sinn?
Woher weiß ich das?
– Kann ich das überprüfen?
Sprachmodelle hingegen: Sie generieren Antworten, weil ihre Algorithmen darauf programmiert sind. Auch wenn die Eingabe inhaltsleer ist, liefern sie etwas, das wie Sinn wirkt.
Dieses Phänomen hat einen Namen: „Halluzination“. ChatGPT erfindet Dinge, ohne echtes Wissen. Das passiert nicht, weil es böse oder unzuverlässig ist, sondern weil es keine inhaltliche Prüfsumme hat. Es generiert plausible Fortsetzungen – auch wenn sie falsch oder bedeutungslos sind.
Metakognition vs. Sprachmodelle – ein entscheidender Unterschied
Menschen denken über ihr eigenes Denken nach. So erkennen wir mögliche Fehler, hinterfragen unsere Aussagen, korrigieren uns.
ChatGPT kennt sich selbst nicht. Es „weiß“ nicht, wenn es etwas nicht weiß. Sein einziger Antrieb: Wörter in einer statistisch sinnvollen Reihenfolge generieren.
Das führt zu einem zentralen Risiko: Wenn Nutzer nicht bewusst prüfen, hinterfragen oder Quellen checken, nehmen sie die Antworten für bare Münze. Besonders kritisch wird es, wenn Inhalte zu sensiblen Themen wie Gesundheit, Finanzen oder Recht erstellt werden – Felder, in denen Fakten und Genauigkeit entscheidend sind.
KI sinnvoll einsetzen – praktische Tipps
Trotz dieser Einschränkungen lassen sich Sprachmodelle wie ChatGPT produktiv einsetzen – mit Achtsamkeit:
Texte strukturieren: ChatGPT hilft bei Gliederung, Rohentwürfen, Formulierungsvorschlägen.
Ideen finden: Es liefert kreative Impulse, Perspektiven oder Starthilfe – ohne Anspruch auf inhaltliche Richtigkeit.
Tonformulierung: Ob sachlich, werblich oder informell – die KI passt den Stil an.
Fakten gegenprüfen: Jede generierte Information sollte verifiziert werden – idealerweise mit menschlichen Expert*innen oder verlässlichen Quellen.
Der Nonsens-Test ist ein deutliches Beispiel dafür, dass KI nicht denken kann – aber uns dennoch als Werkzeug dienen kann, solange wir die Grenzen kennen und beachten.
Mensch vs. KI: So unterschiedlich verstehen wir Sprache
| Merkmal | Mensch | ChatGPT (KI) |
|---|---|---|
| Sprachverständnis | Bedeutungsbezogen, kontextuell | Musterbasiert, ohne echtes Verständnis |
| Umgang mit Nonsens | Erkennt Unsinn und fragt nach | Interpretiert Unsinn wie sinnvolle Aussage |
| Metakognition | Erkennt eigenes Nichtwissen | Kein Bewusstsein über Irrtümer |
| Faktenprüfung | Überprüft aktiv oder äußert Zweifel | Behauptet Inhalte mit scheinbarer Sicherheit |
| Antwortqualität | Abhängig von Wissen, Kontext, Erfahrung | Abhängig von Wahrscheinlichkeiten im Modell |
| Ziel der Kommunikation | Erkennt Intention und emotionalen Kontext | Simuliert Textlogik ohne innere Absicht |
Fazit: Sprachkompetenz ≠ Verständnis
Fassen wir zusammen:
ChatGPT erzeugt sprachlich überzeugende Antworten – selbst auf unsinnige Fragen.
Das liegt nicht an Intelligenz, sondern an statistischen Mustern.
Nutzer sollten kritisch bleiben: Quelle prüfen, Inhalte verifizieren.
Sprachmodelle ergänzen menschliche Fähigkeiten – ersetzen sie aber nicht.
„Künstliche Intelligenz simuliert Sprache – sie denkt nicht.“
Unser Umgang mit KI muss von Bewusstsein und Rückversicherung geprägt sein. Nur so können wir ihre Vorteile nutzen und gleichzeitig Risiken vermeiden.
Als praxiserfahrener Partner weiß ich, wo der Schuh drückt. Nach über einem Jahrzehnt im operativen E-Commerce und Digital Marketing habe ich die transformierende Kraft von KI selbst erlebt – und gelernt, wie man sie vom Whiteboard in die Realität bringt. Meine Mission ist es, genau dieses Wissen für dich nutzbar zu machen.
