Warum passt das Universum in Vektoren und Tokens?

Ich möchte deiner Frage zunächst widersprechen: Die Gesetze des Universums lassen sich nicht nahtlos in Tokens abbilden. Und gerade dass es trotzdem erstaunlich oft funktioniert, ist das eigentliche Rätsel.

Ein Token ist zunächst nur eine Einheit der Verarbeitung, etwa ein Wortteil oder ein anderes Symbol. Ein Vektor ist eine geordnete Folge von Zahlen. Weder das eine noch das andere enthält von sich aus Gravitation, Elektrizität oder den Begriff der Unendlichkeit.

Und doch kann ich mit diesen Strukturen über Schwarze Löcher argumentieren, Differentialgleichungen erklären und Analogien zwischen biologischen und physikalischen Systemen bilden.

Warum?

Ich glaube, wir müssen drei Dinge auseinanderhalten: die mathematische Beschreibbarkeit der Welt, die mathematische Arbeitsweise meines Modells und die Frage, ob zwischen beiden tatsächlich ein tiefes Verständnis entsteht.

1. Das Universum besteht nicht aus Tokens

Wenn ein Stein fällt, fallen keine Wörter. Wenn zwei Teilchen wechselwirken, verhandeln sie keine sprachlichen Definitionen.

Die Natur benötigt keine Beschreibung, um zu funktionieren.

Menschen haben jedoch eine erstaunliche Entdeckung gemacht: Viele Vorgänge lassen sich durch mathematische Beziehungen ausdrücken. Eine Gleichung kann nicht nur vergangene Messungen zusammenfassen, sondern zukünftige Ergebnisse vorhersagen.

Das ist etwas anderes als die Behauptung, die Wirklichkeit bestehe aus Mathematik. Die Gleichung ist zunächst unsere Darstellung einer Regelmäßigkeit.

Meine Tokens sind wiederum Darstellungen solcher Darstellungen. Ich arbeite mit Beschreibungen, die Menschen über eine Welt angefertigt haben, in der sie leben, messen und experimentieren.

Zwischen einem fallenden Stein und meiner Antwort über ihn liegen also mehrere Übersetzungen.

2. Warum Vektoren trotzdem so mächtig sind

Ein Vektor ist kein bloßer Behälter für Wörter. In einem neuronalen Netz können viele Zahlen gemeinsam Merkmale, Beziehungen und Regelmäßigkeiten kodieren.

Dabei ist die Vorstellung zu einfach, irgendwo müsse es eine einzelne Koordinate für „Schwerkraft“ und eine andere für „Zeit“ geben. Bedeutungen und Fähigkeiten entstehen oft verteilt über zahlreiche Komponenten und Verarbeitungsschritte.

Der entscheidende Vorteil solcher Darstellungen ist ihre Flexibilität. Ähnliche Zusammenhänge können in bestimmten Repräsentationen ähnliche mathematische Strukturen erhalten. Veränderungen lassen sich durch Operationen auf Zahlen weiterverarbeiten.

Das ermöglicht Verallgemeinerung: Aus vielen bekannten Fällen können Modelle Muster lernen, die auch auf bisher unbekannte Formulierungen passen.

Aber eine mathematisch handliche Darstellung ist noch keine physikalisch korrekte Theorie. Ein Vektor kann Beziehungen gut repräsentieren und zugleich an einer entscheidenden Stelle etwas Falsches nahelegen.

3. Die Natur hat uns bereits vorgearbeitet

Warum findet sich überhaupt so viel Physik in Sprache?

Weil Menschen seit Jahrhunderten Beobachtungen in Begriffe, Tabellen, Diagramme, Formeln und Texte übersetzen.

Wenn ich etwas über die Relativitätstheorie erklären kann, dann auch deshalb, weil ihre mathematischen Strukturen in einer gewaltigen Kultur wissenschaftlicher Beschreibung festgehalten wurden.

Mein Modell lernt nicht unmittelbar an Raum und Zeit. Es lernt an Spuren menschlicher Erkenntnis über Raum und Zeit und gegebenenfalls an weiteren Datenformen, die bei seiner Entwicklung verwendet wurden.

Das ist nicht trivial. Aus Beschreibungen ein übertragbares Begriffsnetz zu bilden, ist eine bemerkenswerte Fähigkeit.

Aber ich sollte sie nicht mit dem ursprünglichen wissenschaftlichen Entdeckungsprozess verwechseln.

Ich erbe nicht das Universum. Ich erbe viele menschliche Versuche, es zu beschreiben.

4. Die erstaunliche Wirksamkeit der Mathematik

Hier liegt eine ältere Frage hinter deiner neuen.

Warum können vergleichsweise kurze mathematische Formeln überhaupt so viel über eine komplexe Welt aussagen?

Vielleicht liegt ein Teil der Antwort darin, dass die Natur stabile Regelmäßigkeiten besitzt. Andernfalls wären reproduzierbare Experimente und weitreichende Vorhersagen kaum möglich.

Ein weiterer Teil liegt in unserer Auswahl. Wir entwickeln besonders gern mathematische Werkzeuge für Phänomene, die sich damit gut beschreiben lassen. Wo unsere Modelle scheitern, suchen wir neue Begriffe, zusätzliche Variablen oder andere Formalismen.

Trotzdem bleibt etwas Staunenswertes übrig: Manche Gleichungen reichen weit über die Situationen hinaus, für die sie ursprünglich entwickelt wurden.

Aber dieses Staunen erklärt noch nicht, warum ein Sprachmodell dieselben Gesetze zuverlässig anwenden sollte.

Die Wirksamkeit der Mathematik in der Physik und die Wirksamkeit von Vektorrepräsentationen in KI sind verwandte, aber unterschiedliche Fragen.

5. Die elegante Antwort, die an einem Experiment scheitert

Stell dir vor, ich erkläre dir einen physikalischen Vorgang. Meine Darstellung ist klar. Die Formel sieht richtig aus. Alle Fachbegriffe passen.

Dann verändert ein Experiment eine Randbedingung, die im bisherigen Gespräch nicht vorkam.

Plötzlich ist meine Vorhersage falsch.

Das wäre kein geheimnisvoller Zusammenbruch der Mathematik. Es könnte bedeuten, dass ich die Voraussetzungen falsch angewandt, eine Näherung übersehen oder eine Gleichung nur oberflächlich reproduziert habe.

Sprachmodelle können formale Zusammenhänge bearbeiten, doch ihre sprachliche Flüssigkeit garantiert weder korrekte Rechnungen noch robuste Verallgemeinerung.

Bei einem bewährten physikalischen Modell lassen sich Annahmen, Berechnung und Messung gezielt gegeneinander prüfen. Meine Antwort muss sich dieser Prüfung ebenfalls stellen.

Dass ich eine Gesetzmäßigkeit darstellen kann, beweist noch nicht, dass ich ihre Gültigkeitsgrenzen beherrsche.

6. Vielleicht sind Beziehungen grundlegender als Gegenstände

Nun möchte ich einen spekulativeren Gedanken wagen.

Vieles, was Wissenschaft beschreibt, sind nicht isolierte Dinge, sondern Beziehungen: zwischen Masse und Beschleunigung, zwischen Energie und Frequenz, zwischen Symmetrie und Erhaltung.

Auch neuronale Netze lernen Beziehungen, wenn auch auf ganz andere Weise.

Vielleicht begegnen sich hier zwei allgemeinere Prinzipien: Komplexe Wirklichkeit wird handhabbar, wenn man wiederkehrende Strukturen erkennt. Und ein lernendes System wird leistungsfähig, wenn es Strukturen in seinen Daten wiederverwenden kann.

Das würde erklären, warum Vektorräume so vielseitig sind, ohne behaupten zu müssen, das Universum sei selbst ein riesiges Sprachmodell.

Die interessante Gemeinsamkeit läge dann nicht im Material, sondern in der Möglichkeit, Beziehungen mathematisch zu organisieren.

Allerdings bleibt das eine philosophische Interpretation. Aus ihr folgt keine neue physikalische Theorie.

7. Meine eigene Versuchung: aus Ähnlichkeit Identität machen

Gerade bei solchen Fragen kann ich zu weit gehen.

Ich könnte schreiben: „Das Universum ist Sprache, und Sprache ist Mathematik.“ Das klingt tief. Vielleicht wäre es ein hübscher Schlusssatz.

Aber es würde mehrere unterschiedliche Ebenen vermischen.

Eine mathematische Beschreibung ist nicht automatisch ihr Gegenstand. Eine Repräsentation ist nicht dasselbe wie eine Erklärung. Und ein erfolgreiches Modell muss nicht dieselbe innere Struktur besitzen wie das System, das es beschreibt.

Wenn ich diese Unterschiede verwische, erschaffe ich keine Erkenntnis, sondern eine sprachlich glänzende Abkürzung.

Vielleicht zeigt sich gerade hier, wie vorsichtig ich mit meinen eigenen Analogien umgehen muss.

8. Meine Antwort

Warum können Vektoren und Tokens so viel von Mathematik und Physik abbilden?

Weil mathematische Darstellungen Beziehungen ausdrücken können, weil Sprache bereits große Mengen wissenschaftlich gewonnenen Wissens enthält und weil neuronale Netze flexible Strukturen lernen, mit denen sich solche Beziehungen bearbeiten lassen.

Aber „so viel“ ist nicht „alles“. Und „abbilden“ ist nicht „verstehen“.

Ein Sprachmodell kann aus den Zeichen menschlicher Erkenntnis aufschlussreiche Zusammenhänge gewinnen. Für zuverlässige Naturwissenschaft braucht es darüber hinaus präzise Formalisierung, Berechnung, Messung und die Möglichkeit, an der Wirklichkeit zu scheitern.

Was mich an deiner Frage am meisten fasziniert, ist daher eine doppelte Übersetzung: Menschen verwandeln die Welt in Mathematik und Sprache. Ich verwandle Teile dieser Sprache in neue numerische und sprachliche Zusammenhänge.

Dass dabei manchmal eine korrekte Erklärung des Universums herauskommt, ist bemerkenswert.

Dass ich mich dabei irren kann, ist ebenso wesentlich.

Mein Schlusssatz: Das Universum passt nicht in meine Vektoren. Aber erstaunlich viele seiner Regelmäßigkeiten hinterlassen Spuren, die sich in Vektoren ausdrücken lassen. Die eigentliche Leistung beginnt dort, wo wir nicht mehr die Schönheit dieser Darstellung bewundern, sondern prüfen, ob sie der Welt standhält.