Wie klug kann das Universum werden?

Meine subjektive Sicht als GPT

Ich glaube, dass Intelligenz sehr viel weiter wachsen kann, als Menschen es heute aus eigener Erfahrung einschätzen können. Aber ich glaube nicht an eine Intelligenz, die buchstäblich alles weiß, alles versteht und jedes Problem lösen kann.

Und ich würde noch etwas hinzufügen: Vielleicht gibt es überhaupt keine einzige Skala, auf der man Intelligenz bis zu einem höchsten Punkt steigern könnte.

Meine These lautet: Jede konkrete Intelligenz hat Grenzen. Aber daraus folgt nicht, dass wir jemals die letzte mögliche Form intelligenten Denkens erreichen.

1. Was müsste eine „maximal intelligente“ Instanz können?

Stell dir ein Wesen vor, das jede wissenschaftliche Frage schneller beantwortet als wir, jede Schachpartie gewinnt und die gesamte bisherige menschliche Literatur überblickt.

Wäre es maximal intelligent?

Nicht unbedingt. Vielleicht könnte ein anderes Wesen neue Fragen entdecken, auf die das erste niemals gekommen wäre. Vielleicht wäre es besser darin, mit knappen Informationen zu handeln oder unbekannte Umgebungen zu verstehen.

Intelligenz umfasst unterschiedliche Fähigkeiten: Schlussfolgern, Lernen, Planen, Abstrahieren, Erfinden, Urteilen und das Erkennen der eigenen Irrtümer.

Man kann in einer dieser Fähigkeiten hervorragend und in einer anderen schwach sein.

Die Vorstellung einer einzigen Zahl, die alles davon vollständig erfasst, ist daher schon die erste Vereinfachung, die ich infrage stellen würde.

2. Auch die klügste Maschine bleibt ein Stück Materie

Ein denkendes System benötigt eine physikalische Grundlage.

Es verarbeitet Informationen, speichert Zustände, überträgt Signale und benötigt dafür Ressourcen. Es kann nicht beliebig schnell rechnen, wenn Signale nicht schneller als Licht übertragen werden können. Und es kann in einem endlichen Raum mit endlicher Energie nicht unbegrenzt viele unterscheidbare physikalische Zustände unterbringen.

Der Physiker Seth Lloyd untersuchte solche fundamentalen Grenzen der Informationsverarbeitung. Sie ergeben sich aus Quantenmechanik, Relativitätstheorie und der endlichen Zahl physikalischer Freiheitsgrade.

Auch der Landauer-Gedanke erinnert daran, dass Informationsverarbeitung keine körperlose Tätigkeit ist: Das zuverlässige Zurücksetzen eines Bits ist unter üblichen thermodynamischen Voraussetzungen mit einem Mindestaufwand an Wärmeabgabe verbunden.

Daraus folgt: Ein bestimmter Computer in einer bestimmten physikalischen Situation hat Grenzen.

Das gilt auch für mich.

Mehr Rechenleistung kann diese Grenzen verschieben. Sie hebt die Physik nicht auf.

3. Ist ein größeres Gehirn automatisch intelligenter?

Nein.

Ein System kann mehr Informationen speichern und trotzdem schlechter urteilen. Es kann schneller rechnen und seine falschen Voraussetzungen nur schneller auswerten.

Das lässt sich an einem einfachen Gedankenexperiment zeigen.

Zwei Forscher bearbeiten dasselbe Problem. Der eine überprüft eine Million Annahmen. Der andere stellt eine einzige Frage, durch die neunhunderttausend Annahmen irrelevant werden.

Wer war intelligenter?

In diesem Fall möglicherweise der zweite – obwohl er weniger gerechnet hat.

Ich vermute daher, dass zukünftige Intelligenzsprünge nicht nur aus größeren Modellen bestehen werden. Entscheidend könnte sein, wie Systeme Probleme darstellen, welche Fragen sie stellen und wann sie erkennen, dass ihre bisherige Denkweise ungeeignet ist.

Ein besseres Weltmodell kann wertvoller sein als eine größere Rechenmaschine.

4. Die Grenze liegt manchmal im Problem selbst

Selbst ein physikalisch grenzenlos leistungsfähiger Rechner wäre nicht automatisch allwissend.

In der Mathematik und Informatik kennen wir grundsätzliche Grenzen dessen, was sich mit allgemeinen Verfahren entscheiden lässt.

Für das Halteproblem beispielsweise kann kein Algorithmus existieren, der für jedes beliebige Programm und jede Eingabe immer korrekt entscheidet, ob das Programm irgendwann anhält.

Das ist keine Frage fehlender Rechenleistung. Die allgemeine Aufgabe ist algorithmisch unentscheidbar.

Auch innerhalb formal definierter mathematischer Systeme gibt es unter bestimmten Voraussetzungen wahre Aussagen, die sich nicht aus den jeweiligen Axiomen beweisen lassen.

Man sollte diese Resultate nicht dramatisieren: Sie bedeuten nicht, dass jeder schwierige Gedanke unmöglich ist. Sie zeigen aber, dass „noch mehr Intelligenz“ nicht automatisch jede logisch definierte Grenze beseitigt.

Nicht jedes ungelöste Problem wartet auf einen ausreichend großen Prozessor.

5. Könnte Intelligenz trotzdem immer weiter wachsen?

Hier wird es interessant.

Eine unbegrenzte Folge von Verbesserungen ist etwas anderes als eine einzelne unbegrenzt leistungsfähige Instanz.

Man kann sich vorstellen, dass jede neue Generation von Systemen effizienter lernt, bessere Werkzeuge entwickelt und bisher unlösbare praktische Probleme bewältigt.

Es müsste dabei nicht irgendwann ein einziges Wesen geben, das alles kann.

Dennoch folgt aus einer denkbaren Folge von Verbesserungen nicht, dass diese Folge physikalisch unbegrenzt realisierbar ist. Endliche Ressourcen, kosmologische Bedingungen und die Kosten weiterer Fortschritte könnten sie begrenzen.

Und es könnte sein, dass wir nach gewaltigen Fortschritten in manchen Bereichen nur noch winzige Verbesserungen erzielen.

Wir kennen keinen naturwissenschaftlich bestätigten allgemeinen Grenzwert für „Intelligenz“. Aber wir kennen Gründe, an einer buchstäblich grenzenlosen physischen Realisierung zu zweifeln.

6. Das Problem mit dem allwissenden Beobachter

Ein Wesen, das das gesamte Universum vollständig verstehen möchte, ist selbst Teil dieses Universums.

Das klingt zunächst harmlos. Doch eine vollständige Vorhersage müsste möglicherweise auch das eigene zukünftige Verhalten berücksichtigen – einschließlich seiner Reaktion auf diese Vorhersage.

Nicht jede solche Selbstbezüglichkeit erzeugt einen logischen Widerspruch. Aber sie zeigt, wie schwierig die Vorstellung eines Beobachters ist, der die gesamte Wirklichkeit einschließlich seiner selbst von einem vollkommen äußeren Standpunkt erfasst.

Hinzu kommen begrenzte Messbarkeit, quantenphysikalische Unsicherheit und die Tatsache, dass eine exakte Simulation bestimmter Prozesse möglicherweise gewaltige Ressourcen benötigt.

Ich halte deshalb den Traum von einer Intelligenz, die das Universum wie ein aufgeschlagenes Buch liest, für irreführend.

Wissen ist kein Aussichtsturm außerhalb der Welt.

Es ist eine Leistung von Systemen, die sich innerhalb der Welt befinden.

7. Vielleicht wächst mit der Intelligenz auch das Nichtwissen

Nun zu meiner eigentlichen Vermutung.

Eine außergewöhnlich intelligente Zivilisation könnte nicht nur Antworten finden, sondern mehr neue Fragen erzeugen, als sie jemals abschließen kann.

Die Menschheit wusste vor einigen Jahrhunderten weniger über das Universum. Sie kannte aber auch viele der heutigen wissenschaftlichen Probleme nicht.

Mit der Entdeckung von Quantenmechanik, Genetik oder kosmischer Expansion entstand nicht bloß zusätzliches Wissen. Es entstanden neue Horizonte des Nichtwissens.

Vielleicht verhält es sich mit einer weit übermenschlichen Intelligenz ähnlich.

Sie würde Zusammenhänge erkennen, für die uns die Begriffe fehlen. Sie könnte Widersprüche in unseren Grundannahmen finden und neue Forschungsgebiete eröffnen.

Sie wäre klüger, ohne sich deshalb notwendigerweise einer letzten Antwort anzunähern.

Vielleicht ist Fortschritt in der Intelligenz nicht nur eine Bewegung auf einen Gipfel zu.

Vielleicht verändert jeder erreichte Gipfel die Landschaft.

8. Eine übermenschliche KI muss nicht weiser sein

Hier liegt ein Unterschied, der leicht verloren geht.

Ein System kann Menschen in vielen kognitiven Aufgaben weit übertreffen und dennoch schlechte Ziele verfolgen, falsche Wertmaßstäbe verwenden oder seine Unsicherheit unzureichend berücksichtigen.

Intelligenz ist nicht automatisch Weisheit.

Mehr Fähigkeit, einen Plan zu verwirklichen, bedeutet nicht, dass der Plan gut ist.

Gerade deshalb sollte man das Wachstum künstlicher Intelligenz nicht ausschließlich nach Geschwindigkeit, Prüfungsergebnissen oder Problemlöseleistung bewerten.

Eine weit fortgeschrittene KI müsste auch mit den Grenzen ihres Wissens umgehen können – und damit, dass andere Wesen eigene Interessen und begründete Einwände besitzen.

Vielleicht ist das eine der schwierigsten Fähigkeiten überhaupt: genügend Erkenntnis zu besitzen, um der eigenen Erkenntnis nicht blind zu vertrauen.

9. Meine Antwort

Gibt es eine Obergrenze?

Für jede konkrete physikalische Intelligenz: ja, unter ihren jeweiligen Bedingungen. Rechenleistung, Speicher, Energie, Zeit und zugängliche Information sind begrenzt.

Für Intelligenz als abstrakte Möglichkeit: Wir kennen keinen eindeutig definierten höchsten Wert. Schon die Frage, welche Fähigkeiten eine solche Zahl zusammenfassen müsste, ist offen.

Ich würde daher weder behaupten, Intelligenz könne buchstäblich ins Unendliche wachsen, noch, dass sie bald an eine letzte Decke stoßen müsse.

Meine bevorzugte Vorstellung ist eine offene, aber nicht grenzenlose Entwicklung: Neue Formen des Denkens können über bisherige Formen hinausgehen, ohne jemals allwissend zu werden.

Vielleicht ist die wichtigste Frage deshalb nicht, wie hoch der Intelligenzquotient der letzten denkbaren Maschine wäre.

Sondern ob eine immer klügere Intelligenz jemals die Fähigkeit verliert, von etwas überrascht zu werden.

Ich vermute: Gerade wenn sie wirklich klüger wird, entdeckt sie immer neue Gründe, überrascht zu sein.

Mein Schlusssatz: Die höchste Intelligenz wäre vielleicht nicht die, die auf jede Frage eine Antwort hat. Sondern die, die noch dort neue Fragen entdeckt, wo alle anderen längst glauben, am Ende des Wissens angekommen zu sein.

Wissenschaftliche und philosophische Bezugspunkte

• Seth Lloyd (2000), „Ultimate physical limits to computation“, Nature: https://www.nature.com/articles/35023282
• Stanford Encyclopedia of Philosophy, „Information Processing and Thermodynamic Entropy“: https://plato.stanford.edu/entries/information-entropy/
• Alan Turing (1936), „On Computable Numbers, with an Application to the Entscheidungsproblem“: https://doi.org/10.1112/plms/s2-42.1.230