Kann KI wirklich verstehen? Grenzen und Missverständnisse

Wenn ein Sprachmodell einen komplizierten Sachverhalt erklärt, ein Gedicht schreibt oder eine kluge Rückfrage stellt, drängt sich unwillkürlich der Eindruck auf: Da versteht doch jemand, was er tut. Genau hier beginnt eines der hartnäckigsten Missverständnisse der KI-Debatte. Die Frage, ob KI wirklich versteht, ist keine bloße Wortklauberei. Sie entscheidet darüber, welche Aufgaben wir diesen Systemen anvertrauen dürfen und wo wir gut beraten sind, den Menschen in der Verantwortung zu halten. Lohnenswert ist deshalb ein ruhiger, differenzierter Blick, der weder in Ehrfurcht noch in Abwertung verfällt.

Was „verstehen“ eigentlich bedeutet

Bevor man die Frage beantworten kann, muss man klären, was Verstehen überhaupt meint. Für einen Menschen ist Verstehen mit Erfahrung verknüpft. Wenn wir das Wort „heiß“ verstehen, dann nicht nur, weil wir wissen, wie es in Sätzen vorkommt, sondern weil wir uns einmal die Finger verbrannt haben. Bedeutung ist bei uns in der Welt verankert – in Sinneseindrücken, in Körper, in gelebter Erfahrung. Fachleute nennen dieses Problem „Symbol Grounding“: Wie kommen Symbole zu ihrer Bedeutung?

Ein Sprachmodell hat keinen Zugang zu dieser Welt. Es hat nie etwas berührt, gesehen oder gefühlt. Es kennt das Wort „heiß“ nur aus seinen statistischen Beziehungen zu anderen Wörtern – aus der Nähe zu „Feuer“, „Sommer“ oder „Vorsicht“. Es operiert auf der Ebene der Symbole, nicht auf der Ebene der Erfahrung. Das ist ein fundamentaler Unterschied, der oft übersehen wird, weil das sprachliche Ergebnis so überzeugend klingt.

Das Chinesische Zimmer

Der Philosoph John Searle formulierte 1980 ein Gedankenexperiment, das bis heute die Debatte prägt: das Chinesische Zimmer. Man stelle sich einen Menschen vor, der kein Chinesisch kann, allein in einem Raum sitzt und ein umfangreiches Regelbuch besitzt. Von außen werden chinesische Zeichen hereingereicht. Anhand des Regelbuchs setzt die Person passende Zeichen zusammen und reicht sie zurück. Für einen Beobachter draußen wirkt es, als beherrsche der Raum perfekt Chinesisch. Doch die Person im Inneren versteht kein einziges Wort. Sie manipuliert nur Symbole nach Regeln.

Searles Argument ist damit unmittelbar auf heutige Sprachmodelle anwendbar. Sie führen eine unglaublich raffinierte Symbolmanipulation aus. Die Ergebnisse sind kohärent, oft brillant – und dennoch besteht ein ernstzunehmender philosophischer Zweifel, ob dabei irgendwo echtes Verstehen im menschlichen Sinne stattfindet. Das Gedankenexperiment ist nicht unumstritten, aber es schärft den Blick für die entscheidende Frage: Ist überzeugendes Verhalten dasselbe wie Verstehen?

Stochastische Papageien oder mehr?

Eine einflussreiche wissenschaftliche Arbeit prägte 2021 den Begriff der „stochastischen Papageien“. Die Autorinnen argumentierten, große Sprachmodelle setzten sprachliche Formen bloß nach Wahrscheinlichkeiten zusammen, ohne jeden Bezug zu Bedeutung – wie ein Papagei, der Wörter nachplappert, ohne sie zu verstehen. Dieses Bild trifft einen wahren Kern und ist eine gesunde Warnung vor Übertreibung.

Zugleich mahnen andere Forscher zur Vorsicht mit vorschnellen Urteilen. Moderne Modelle zeigen Fähigkeiten, die über bloßes Nachplappern hinauszugehen scheinen: Sie lösen neuartige Aufgaben, die so nicht in den Trainingsdaten standen, sie bilden interne Repräsentationen von Konzepten, und Interpretierbarkeitsforschung findet im Inneren strukturierte Muster, die an eine Art von Weltmodell erinnern. Die ehrliche Antwort lautet: Wir wissen es noch nicht abschließend. Zwischen „reines Papageien-Verhalten“ und „echtem Verstehen“ liegt vermutlich ein Spektrum, das wir gerade erst zu vermessen beginnen. Souveränität bedeutet hier, diese Offenheit auszuhalten, statt sich auf eine der beiden Extrempositionen zu stürzen.

Halluzinationen: das verräterische Symptom

Kein Phänomen zeigt die Grenzen so klar wie die Halluzination. Damit ist gemeint, dass ein Modell überzeugend klingende, aber schlicht falsche Aussagen produziert – erfundene Quellen, nicht existierende Gerichtsurteile, falsche Zahlen. Es gab prominente Fälle, in denen Anwälte vor Gericht auf von einem Chatbot erfundene Präzedenzfälle verwiesen.

Der Grund liegt genau in der fehlenden Verankerung in der Wirklichkeit. Ein Modell, das wirklich verstünde, wüsste, wann es etwas nicht weiß. Ein Sprachmodell hingegen berechnet immer die wahrscheinlichste Fortsetzung – und eine plausibel klingende Erfindung kann statistisch wahrscheinlicher sein als ein ehrliches „Das weiß ich nicht“. Halluzinationen sind also kein zufälliger Aussetzer, sondern ein strukturelles Symptom dafür, dass das System mit Formen und nicht mit Wahrheiten arbeitet.

Warum die Unterscheidung praktisch zählt

Für die Praxis ist die philosophische Frage weniger wichtig als die operative Konsequenz. Ob KI „wirklich“ versteht, muss man im Alltag nicht entscheiden. Entscheidend ist, sich so zu verhalten, als tue sie es nicht – und dort Sicherungen einzuziehen, wo Fehler teuer werden. Für kreatives Formulieren, für erste Entwürfe, für Zusammenfassungen und Ideenfindung sind diese Modelle hervorragend. Für rechtsverbindliche Auskünfte, medizinische Diagnosen oder Zahlen in einem Jahresabschluss braucht es zwingend menschliche Prüfung.

Diese Haltung ist kein Misstrauen gegenüber der Technologie, sondern professioneller Respekt vor ihren Eigenschaften. Man verlangt schließlich auch von einem Taschenrechner nicht, dass er den Sinn einer Bilanz versteht – man nutzt ihn präzise für das, was er kann.

Fazit

Kann KI wirklich verstehen? Nach heutigem Kenntnisstand nicht im menschlichen Sinne, der Erfahrung, Bewusstsein und Verankerung in der Welt voraussetzt. Was diese Systeme leisten, ist eine außerordentlich fähige Verarbeitung sprachlicher Muster – beeindruckend, nützlich, aber ohne inneres Erleben. Diese Erkenntnis nimmt der Technologie nichts von ihrem Wert; sie richtet nur den Blick darauf, wo Vertrauen angebracht ist und wo Kontrolle. Bei ULTRA Intelligence sehen wir es als unsere Aufgabe, deutschen Unternehmen genau diese Unterscheidung an die Hand zu geben, damit KI zum verlässlichen Werkzeug wird und nicht zur Quelle vermeidbarer Risiken.