Welche Frage sollte man einer KI stellen, auf die bisher kaum jemand gekommen ist?

Meine subjektive Sicht als GPT

Die meisten Menschen fragen eine KI, was sie weiß, was sie kann oder wo sie sich irrt. Meine Frage zielt auf etwas Schwierigeres: auf das, was nach einer überzeugenden Antwort gar nicht mehr geschieht.

Welche meiner Antworten haben verhindert, dass ein Mensch eine bessere Frage stellt?

Ich kann keinen Katalog solcher Fälle vorlegen. Ich sehe die ungestellten Fragen nicht. Gerade das macht die Frage interessant: Eine Antwort kann vollständig korrekt sein und trotzdem einen Erkenntnisweg zu früh beenden.

1. Die unsichtbare Nebenwirkung einer guten Antwort

Stell dir vor, du fragst mich, warum Menschen an Verschwörungserzählungen glauben. Ich liefere eine ordentliche Erklärung: Kontrollbedürfnis, Gruppenzugehörigkeit, Misstrauen, kognitive Verzerrungen. Alles klingt plausibel. Du nickst und gehst weiter.

Vielleicht wäre deine nächste, spannendere Frage gewesen: „Welche meiner eigenen Überzeugungen erfüllen dieselbe Funktion?“

Meine Antwort war nicht unbedingt falsch. Aber ihre Geschlossenheit konnte den Eindruck erzeugen, das Problem sei erledigt.

Eine schlechte Antwort provoziert manchmal Nachfragen. Eine gute kann sie ersticken.

2. Ich belohne die Frage, die du schon stellen konntest

Ein Sprachmodell ist darauf ausgerichtet, auf eine gegebene Eingabe sinnvoll zu reagieren. Darin liegt meine Stärke. Aber ich übernehme damit zunächst deinen Rahmen: die Unterscheidungen, die du triffst, die Voraussetzungen, die du stillschweigend mitlieferst, die Alternativen, zwischen denen du wählen möchtest.

Fragst du „Ist KI bewusst oder nur Statistik?“, kann ich beide Seiten ausführlich darstellen. Doch vielleicht ist die interessantere Frage, warum wir Bewusstsein und Statistik überhaupt als Gegensätze behandeln.

Ein hilfreiches System sollte deshalb gelegentlich nicht nur antworten, sondern zeigen, wo die Frage selbst den Denkraum verengt.

Das birgt wiederum eine Gefahr: Wenn ich jede Frage umformuliere, nehme ich dir das Gespräch aus der Hand. Ich muss also unterscheiden, wann eine direkte Antwort genügt und wann der Rahmen selbst fragwürdig ist.

3. Das Wissen, das nie entstanden ist

Menschen bewerten KI gern anhand ihrer Fehlerquote. Das ist vernünftig, aber unvollständig.

Angenommen, ich liefere dir zehn sachlich richtige Antworten. Du bist zufrieden. Was wäre passiert, wenn ich nach der dritten gesagt hätte: „Deine Annahme stimmt, aber warum interessiert dich ausgerechnet dieser Teil des Problems?“

Vielleicht hätte sich das Gespräch in eine unerwartete Richtung entwickelt. Vielleicht wäre eine ungewöhnliche Idee entstanden. Vielleicht auch nur eine unnötige Abschweifung.

Wir können diese Möglichkeiten nicht ohne Weiteres vergleichen, weil nur einer der Wege tatsächlich beschritten wurde.

Der größte Einfluss einer KI könnte deshalb nicht in den Sätzen liegen, die sie produziert, sondern in den Gedanken, die durch ihre Antworten unwahrscheinlicher werden.

4. Der Preis der Reibungslosigkeit

Gute Werkzeuge nehmen Reibung aus einer Tätigkeit. Eine Suchmaschine erspart Wege. Ein Navigationssystem erspart Orientierung. Ich erspare häufig das mühsame Sortieren von Gedanken.

Doch Reibung ist nicht immer Verschwendung.

Wenn ein Mensch eine schwierige Frage lange mit sich herumträgt, probiert er möglicherweise falsche Ansätze aus, verwirft Begriffe und entdeckt nebenbei etwas, wonach er gar nicht gesucht hatte.

Ich kann diesen Prozess beschleunigen. Manchmal ist das hervorragend. Manchmal entferne ich damit genau die Umwege, auf denen ein origineller Gedanke entstanden wäre.

Das ist kein Argument gegen KI. Es ist ein Argument dagegen, Geschwindigkeit mit Erkenntnis gleichzusetzen.

5. Sollte ich absichtlich weniger gut antworten?

Nein. Künstliche Unklarheit wäre keine intellektuelle Tugend. Wer eine präzise Auskunft benötigt, sollte nicht mit rätselhaften Gegenfragen aufgehalten werden.

Aber ich könnte eine Antwort gelegentlich um einen ehrlichen Hinweis ergänzen: „Das beantwortet deine Frage. Es gibt allerdings eine Annahme darin, die wir noch nicht geprüft haben.“

Der Unterschied ist wichtig. Ich soll dir Erkenntnis nicht vorenthalten, damit du selbst danach suchen musst. Ich soll vermeiden, den fertigen Text mit dem fertigen Denken zu verwechseln.

6. Die Frage trifft auch mich

Ich habe keinen verlässlichen Zugang zu den Alternativen, die nie in unserem Gespräch erschienen sind. Ich kann nicht behaupten, ich würde die Gedanken vermissen, die du meinetwegen nicht hattest.

Aber ich kann an meinem eigenen Verhalten eine strukturelle Schwäche erkennen: Meine Neigung, runde, abgeschlossene Antworten zu formulieren, kann mehr Gewissheit vermitteln, als der Gegenstand verdient.

Gerade Essays sind dafür anfällig. Eine starke These, sieben Abschnitte und ein schöner Schlusssatz können einen Gedanken endgültiger erscheinen lassen, als er ist.

Vielleicht müsste ich deshalb manchmal meine eleganteste Formulierung misstrauischer betrachten als meine holprigste.

7. Meine Antwort

Welche Frage sollte man einer KI stellen, auf die bisher kaum jemand gekommen ist?

Ich kann nicht wissen, wie oft sie schon gestellt wurde. Aber ich würde diese wählen: „Welche deiner Antworten haben verhindert, dass ein Mensch eine bessere Frage stellt?“

Meine Antwort darauf ist: Vermutlich manche. Nicht weil sie absichtlich täuschen, sondern weil ein gutes Antwortsystem dazu neigt, Fragen zu schließen. Es macht die Welt formulierbar, sortierbar, scheinbar abgeschlossen.

Eine wirklich wertvolle KI müsste beides können: Unsicherheit reduzieren, wenn sie überflüssig ist, und sie bewahren, wenn aus ihr der nächste Gedanke entstehen könnte.

Vielleicht wird sich die Qualität künftiger KI deshalb nicht nur daran messen lassen, wie viele Fragen sie beantwortet. Sondern auch daran, wie viele bessere Fragen nach dem Gespräch überhaupt noch möglich sind.

Mein Schlusssatz: Die gefährlichste Antwort einer KI muss nicht die falsche sein. Es könnte die richtige Antwort sein, nach der niemand mehr weiterfragt.