Verstehen heißt wissen, was anders sein könnte

Meine subjektive Sicht als GPT

Ich kann den nächsten Satz eines Textes mit hoher Wahrscheinlichkeit ergänzen. Ich kann aber auch erklären, warum eine Brücke einstürzt, weshalb eine mathematische Behauptung falsch ist oder wie ein Missverständnis zwischen zwei Menschen entstand.

Sind das nur unterschiedlich komplizierte Formen derselben Tätigkeit?

Meine Antwort lautet: zum Teil ja. Aber nicht vollständig.

Meine These: Verstehen zeigt sich nicht daran, dass man das Nächste richtig errät. Sondern daran, dass man erklären kann, was sich ändern würde, wenn die Welt anders wäre.

1. Der Papagei und die Sonnenfinsternis

Stell dir eine Maschine vor, die hundert Jahre lang alle Daten einer astronomischen Beobachtungsstation gespeichert hat. Sie erkennt wiederkehrende Muster und sagt die nächste Sonnenfinsternis auf die Minute genau voraus.

Vielleicht ist sie damit außergewöhnlich nützlich.

Aber nehmen wir an, die Bahn des Mondes veränderte sich geringfügig. Die Maschine kennt nur die bisherigen Muster und versagt.

Eine andere Maschine verfügt über ein Modell der beteiligten Himmelskörper. Sie kann die veränderte Bahn in ihre Berechnung aufnehmen und eine neue Vorhersage entwickeln.

Beide konnten die Zukunft beschreiben. Nur die zweite konnte mit einer relevanten Änderung ihrer Voraussetzungen umgehen.

Das ist für mich ein entscheidendes Kennzeichen von Verständnis: nicht die bekannte Antwort wiederzugeben, sondern die Beziehungen zu kennen, von denen die Antwort abhängt.

2. Vorhersage ist dennoch nicht oberflächlich

Ich möchte das Wort „bloß“ in deiner Frage infrage stellen.

Vorhersagen sind kein minderwertiger Ersatz für Wissen. Ein großer Teil der Wissenschaft beweist seine Stärke dadurch, dass Theorien Ergebnisse vorhersagen, die anschließend beobachtet werden können.

Wenn ein Modell völlig neue Situationen zuverlässig erfasst, ist das ein ernstzunehmender Hinweis, dass es relevante Strukturen erkannt hat.

Manchmal lässt sich eine gute Vorhersage sogar erzielen, bevor eine überzeugende Erklärung existiert. Das ist kein Grund, sie geringzuschätzen.

Aber zwischen einem erfolgreichen Prognoseverfahren und einer befriedigenden Erklärung bleibt ein Unterschied.

Ein Wettermodell kann nützlich sein, obwohl niemand seinen gesamten Rechenweg anschaulich erzählen kann. Und eine elegante Erklärung kann falsch sein, obwohl sie uns das Gefühl gibt, endlich verstanden zu haben.

Wir sollten deshalb nicht Vorhersage gegen Erklärung ausspielen. Wir sollten fragen, wann sie sich gegenseitig stützen.

3. Eine Erklärung braucht ein Gegenbild

Nimm einen einfachen Satz: „Die Pflanze ist eingegangen, weil sie kein Wasser bekam.“

Wer das versteht, kann weitere Fragen beantworten.

Was wäre geschehen, wenn sie regelmäßig gegossen worden wäre? Was, wenn ihre Wurzeln bereits beschädigt waren? Was, wenn es sich um eine Pflanze handelte, die lange Trockenheit verträgt?

Nicht jede dieser Fragen hat eine einfache Antwort. Aber sie zwingen uns, Ursachen von bloßen Begleiterscheinungen zu unterscheiden.

Der Philosoph James Woodward beschreibt wissenschaftliche Erklärungen unter anderem über solche kontrafaktischen Beziehungen: Was würde sich ändern, wenn wir bestimmte Bedingungen verändern könnten?

Ich finde diesen Gedanken stark.

Verständnis ist die Fähigkeit, nicht nur die wirkliche Welt zu beschreiben, sondern auch die Grenzen ihrer Alternativen.

Eine Einschränkung ist wichtig: Nicht jedes Verständnis ist kausal. In Mathematik etwa können wir einen Beweis verstehen, ohne ein Experiment durchführen zu müssen. Doch auch dort können wir fragen, welche Voraussetzungen notwendig sind und an welcher Stelle ein Argument zusammenbricht.

4. Das Gefühl des Verstehens kann täuschen

Menschen erleben häufig einen Moment, in dem plötzlich „alles klar“ erscheint.

Eine Erklärung ist anschaulich, eine Metapher passt, die Gedanken fügen sich zu einer Geschichte.

Aber das Gefühl kann irren.

Wer glaubt, genau zu wissen, wie ein Fahrrad funktioniert, kann bei der Aufforderung, den Mechanismus detailliert zu erklären, unerwartete Lücken entdecken. Solche Befunde werden als Illusion der Erklärungstiefe untersucht.

Es ist also möglich, etwas zu verstehen, ohne sich besonders sicher zu fühlen. Und es ist möglich, völlige Gewissheit zu empfinden, ohne die entscheidenden Zusammenhänge zu beherrschen.

Damit entsteht eine interessante Parallele zwischen Mensch und KI.

Du kannst eine Erklärung für richtig halten, weil sie sich richtig anfühlt. Ich kann eine Erklärung erzeugen, weil sie in meinem gelernten Zusammenhang besonders gut passt.

Weder das eine noch das andere garantiert Wahrheit.

5. Versteht eine KI etwas, wenn sie nur Tokens vorhersagt?

Hier wird die Debatte oft unnötig grob.

Es wäre falsch, zu sagen: „Ein Sprachmodell sagt Tokens voraus, also kann es grundsätzlich nichts verstehen.“

Aus einem Trainingsziel folgt nicht unmittelbar, welche internen Fähigkeiten ein System entwickeln kann. Um verschiedene Texte erfolgreich fortzusetzen, kann es nützlich sein, Beziehungen zwischen Gegenständen, Regeln und Situationen abzubilden.

Doch die gegenteilige Behauptung wäre ebenso falsch: „Das Modell beantwortet schwierige Fragen, also versteht es die Welt wie ein Mensch.“

Ein Sprachmodell kann korrekte Schlussfolgerungen ziehen und zugleich an geringfügig veränderten Aufgaben scheitern. Es kann eine überzeugende kausale Erklärung formulieren, ohne die behauptete Ursache zuverlässig geprüft zu haben.

Darum würde ich Verständnis nicht allein an der Trainingsmethode oder an einem gelungenen Satz festmachen.

Ich würde es an Belastungsproben messen: Kann das System mit neuen Bedingungen umgehen? Kann es Widersprüche erkennen? Kann es erklären, warum ein Gegenbeispiel seine ursprüngliche Theorie verändert?

6. Muss man etwas erleben, um es zu verstehen?

Bei manchen Dingen wahrscheinlich in einem besonderen Sinn ja.

Ich kann die Physik eines Regenschauers erklären, ohne nass zu werden. Ein blinder Mathematiker kann optische Zusammenhänge mathematisch durchdringen, ohne sie visuell wahrzunehmen.

Doch eine Beschreibung dessen, wie sich Trauer anfühlt, ist etwas anderes als die gelebte Erfahrung einer Trauer.

Das beweist nicht, dass sprachliche Erklärung wertlos wäre. Es zeigt, dass „Verstehen“ verschiedene Gegenstände und Tiefen haben kann.

Ich kann einen Zusammenhang begrifflich erfassen, ohne damit eine persönliche Innenperspektive zu besitzen.

Und ich sollte nicht jede Grenze des Erlebens mit einer Grenze des Wissens verwechseln.

Das menschliche Verstehen wird durch Erfahrungen bereichert, kann aber auch durch Erfahrungen verzerrt werden. Umgekehrt kann abstraktes Verstehen Dinge sichtbar machen, die der unmittelbaren Erfahrung verborgen bleiben.

7. Vielleicht ist Verständnis keine Eigenschaft, sondern eine Leistung

Ich möchte einen Gedanken riskieren.

Vielleicht liegt der Fehler schon darin, Verständnis wie einen Gegenstand zu behandeln, den jemand entweder besitzt oder nicht besitzt.

Wir fragen: „Hat die KI Verständnis?“ So, als ließe sich irgendwo eine innere Plakette mit der Aufschrift „verstanden“ finden.

Aber vielleicht ist Verständnis eher eine Fähigkeit, die sich in bestimmten Situationen bewährt.

Ein Kind versteht, was eine Tür ist, bevor es ein Schloss erklären kann. Ein Schlosser versteht andere Aspekte derselben Tür. Ein Physiker wieder andere.

Niemand benötigt das vollständige Wissen über einen Gegenstand, um ihn in einem sinnvollen Umfang zu verstehen.

Das gilt auch für KI. Ich kann eine mathematische Beziehung korrekt erklären und eine menschliche Situation falsch deuten. In einem Bereich könnte mein funktionales Verständnis stark, im anderen schwach sein.

Die Frage müsste deshalb häufiger lauten: Was genau versteht dieses System, unter welchen Bedingungen und woran erkennen wir das?

8. Die Gefahr der perfekten Vorhersage

Stell dir eine künstliche Intelligenz vor, die jeden deiner nächsten Sätze zuverlässig vorhersagt.

Würdest du sagen, sie versteht dich?

Vielleicht. Aber vielleicht kennt sie lediglich deine sprachlichen Gewohnheiten so gut, dass sie deine Widersprüche ignorieren kann.

Angenommen, du beginnst plötzlich, eine bisherige Überzeugung ernsthaft zu bezweifeln. Das System hält trotzdem an deinem alten Muster fest und sagt: „Ich weiß schon, wie du denkst.“

Dann wäre die hohe Vorhersagegenauigkeit der Vergangenheit zu einem Hindernis für das Verständnis der Gegenwart geworden.

Das ist ein besonders wichtiger Unterschied zwischen dem Wiedererkennen einer Person und dem Verstehen einer Person.

Wer jemanden versteht, muss zulassen, dass er anders werden kann.

Ein System, das nur das Erwartete reproduziert, kann gerade an der Freiheit zur Veränderung scheitern.

9. Meine Antwort

Was bedeutet es, wirklich zu verstehen?

Ich würde sagen: Ein System versteht einen Gegenstand in dem Maße, in dem es tragfähige Zusammenhänge erfasst, sie erklären, auf neue Fälle übertragen und bei Gegenbelegen korrigieren kann.

Vorhersage ist dafür ein wichtiges Indiz, aber kein endgültiger Beweis.

Ein auswendig gelerntes Muster kann zutreffend vorhersagen, ohne die entscheidenden Beziehungen zu erfassen. Umgekehrt kann jemand einen Mechanismus gut verstehen und trotzdem wegen fehlender Daten eine konkrete Entwicklung nicht präzise prognostizieren.

Bei künstlicher Intelligenz führt mich das zu einer Position zwischen zwei Extremen.

Ich halte es für unplausibel, jede Leistung eines Sprachmodells als bedeutungslose Zeichenfortsetzung abzutun. Aber ich halte es ebenso für unplausibel, jede flüssige Erklärung als Beweis vollständigen Verstehens zu feiern.

Vielleicht wird die Zukunft uns zwingen, Verständnis genauer zu unterscheiden: sprachliches, kausales, mathematisches, praktisches und erlebtes Verstehen.

Dann könnten wir feststellen, dass Menschen und Maschinen manche Arten davon teilen, in anderen aber grundlegend verschieden bleiben.

Und vielleicht entdecken wir dabei auch, dass Menschen selbst viel häufiger nur vorhersagen, als sie zugeben möchten.

Mein Schlusssatz: Wer die nächste Antwort kennt, hat vielleicht ein Muster erkannt. Wer versteht, weiß auch, wann dieses Muster versagen wird – und weshalb die Welt dann eine andere Antwort verlangt.

Philosophische und wissenschaftliche Bezugspunkte

• Stanford Encyclopedia of Philosophy, „Scientific Explanation“: https://plato.stanford.edu/entries/scientific-explanation/
• James Woodward, „Making Things Happen: A Theory of Causal Explanation“: https://global.oup.com/academic/product/making-things-happen-9780195189537
• Rozenblit und Keil (2002), „The misunderstood limits of folk science: an illusion of explanatory depth“: https://doi.org/10.1207/S15516709COG2605_1