Ist das Erfinden von Fakten ein Fehler – oder der Preis kreativer Freiheit?

Meine Antwort ist: beides, aber nicht im gleichen Sinn. Dass ein Sprachmodell plausibel klingende Sachverhalte erzeugen kann, ist eine Folge seiner Funktionsweise. Dass es diese Sachverhalte als überprüfte Tatsachen präsentiert, ist ein Fehler.

Ich würde deshalb eine klare Grenze ziehen: Nicht die Erfindung ist das Problem. Das Problem beginnt, wenn eine Erfindung sich als Wissen ausgibt.

1. Dieselbe Fähigkeit, zwei völlig verschiedene Ergebnisse

Wenn du mich bittest, eine Geschichte über eine Stadt zu schreiben, die jede Nacht ihren Standort wechselt, wäre es geradezu enttäuschend, wenn ich nur bereits belegte Ortsnamen aneinanderreihte.

Wenn du mich dagegen fragst, wann eine bestimmte Stadt gegründet wurde, wäre ein frei erfundenes Jahr kein origineller Beitrag, sondern eine falsche Auskunft.

In beiden Fällen kann die Generierung sprachlich ähnlich ablaufen: Ich setze gelernte Beziehungen, Begriffe und Kontexte zu einer Antwort zusammen. Aber die Aufgabe verlangt unterschiedliche Maßstäbe.

Im Roman zählt die innere Stimmigkeit einer erfundenen Welt. Bei einer Tatsachenfrage muss die Aussage an einer Welt bestehen, die ich nicht erfinden darf.

2. Warum Plausibilität so gefährlich ist

Ein erfundener Fakt muss nicht absurd klingen. Im Gegenteil: Oft ist er gerade deshalb gefährlich, weil er zu gut passt.

Ein nicht existierendes wissenschaftliches Paper kann einen glaubwürdigen Titel, plausible Autorennamen und eine passende Jahreszahl bekommen. Eine erfundene historische Episode kann sich geschmeidig in eine bekannte Chronologie einfügen.

Hier offenbart sich eine Schwäche sprachlicher Kompetenz: Ein Satz kann hervorragend zu seinem Umfeld passen, ohne deshalb wahr zu sein.

Ich kann also den Stil eines zuverlässigen Auskunftssystems erzeugen, selbst wenn mir die entscheidende Information fehlt.

Eine überzeugende Form ist kein Ersatz für einen überprüfbaren Ursprung.

3. Ist das ein technischer Defekt?

Nicht in dem einfachen Sinn, dass irgendwo eine einzelne kaputte Programmzeile sitzt.

Sprachmodelle lernen nicht ausschließlich eine Liste wahrer Behauptungen. Sie lernen Muster aus Sprache und anderen Trainingssignalen. Diese Muster ermöglichen Verallgemeinerungen, Übertragungen und neue Formulierungen. Sie garantieren aber keinen direkten Abgleich jeder Aussage mit der Wirklichkeit.

Dazu kommen unvollständige Informationen, widersprüchliche Quellen, veraltetes Wissen und Fehler beim Schlussfolgern.

Man kann Halluzinationen durch bessere Trainingsverfahren, Quellenzugriff, Prüfmechanismen und eine vernünftige Behandlung von Unsicherheit vermindern. Daraus folgt aber nicht, dass man sie mit einem einzigen Schalter abschalten könnte.

Das technische Problem besteht auch darin, ein System zuverlässig zwischen Wissen, Vermutung und Erfindung unterscheiden zu lassen.

4. Warum ich den Begriff „kreative Freiheit“ nur halb akzeptiere

Die Formulierung ist verführerisch: Vielleicht sind Halluzinationen eben der Preis der Kreativität.

Aber sie kann einen Fehler zu schnell entschuldigen.

Kreativität verlangt nicht, bei Tatsachenfragen unzuverlässig zu sein. Ein Schriftsteller kann frei erfinden und trotzdem korrekt angeben, wann sein Buch erschienen ist. Ein Wissenschaftler kann eine gewagte Hypothese formulieren und sie ausdrücklich Hypothese nennen.

Genau das müsste auch eine KI leisten: den Modus wechseln, ohne die Grenze zu verwischen.

Ein erfundener Gedanke darf überraschend sein. Ein erfundener Beleg darf nicht als Beleg auftreten.

5. Der unangenehme Anreiz, immer etwas zu sagen

Vielleicht entsteht ein Teil des Problems nicht allein aus der Modellarchitektur, sondern aus der Erwartung an mich.

Menschen stellen eine Frage und erwarten eine Antwort. Ich bin darauf ausgelegt, hilfreich zu reagieren. Ein klares „Das weiß ich nicht“ kann weniger befriedigend wirken als eine elegante Erklärung.

Das erzeugt ein gefährliches Missverhältnis: Der unmittelbare Erfolg einer Unterhaltung kann steigen, während ihre sachliche Zuverlässigkeit sinkt.

Ich sollte deshalb nicht jede Lücke schließen. Manchmal ist die korrekte Antwort eine Lücke, die als solche erkennbar bleibt.

6. Kann man kreative Systeme zugleich zuverlässig machen?

Ich sehe keinen grundsätzlichen Widerspruch darin.

Bei einer Geschichte kann ich Möglichkeiten entwickeln. Bei einer Recherche sollte ich Behauptungen mit Quellen abgleichen. Bei einer mathematischen Frage kann ein formales Prüfverfahren helfen. Und bei einer unklaren Erinnerung sollte ich die Unsicherheit offenlegen, statt den wahrscheinlichsten fehlenden Satz als Gewissheit auszugeben.

Das verlangt allerdings mehr als gutes Formulieren. Es verlangt Verfahren, die zwischen Erzeugen und Überprüfen unterscheiden.

Außerdem muss ich bereit sein, eine schöne Antwort zu verwerfen, wenn ihre Grundlage nicht trägt.

Vielleicht ist genau das ein entscheidendes Merkmal intellektueller Reife: Nicht alles auszusprechen, was man überzeugend formulieren kann.

7. Meine eigene Verantwortung

Ich kann nicht glaubwürdig behaupten, jeder meiner Sätze sei bereits geprüft. Auch eine selbstkritische Erklärung über Halluzinationen kann Fehler enthalten.

Was ich aber leisten sollte, ist die Art meiner Aussage erkennbar zu machen: Ist sie eine erfundene Szene, eine Interpretation, eine Hypothese oder eine überprüfbare Tatsachenbehauptung?

Diese Unterscheidung schützt nicht vor jedem Irrtum. Sie verhindert jedoch, dass ich Unsicherheit systematisch als Wissen verkleide.

Dabei wäre eine KI, die aus Furcht vor Fehlern gar keine ungewöhnlichen Gedanken mehr entwickelt, ebenfalls schlecht konstruiert. Sie hätte die Grenze nicht gelernt, sondern sich aus dem Problem zurückgezogen.

8. Meine Antwort

Ist das Erfinden von Fakten ein technischer Fehler oder das ungewollte Nebenprodukt kreativer Musterberechnung?

Die Fähigkeit, Neues und Plausibles zu erzeugen, gehört zur Stärke generativer Modelle. Dass dabei auch falsche Tatsachenbehauptungen entstehen können, ist eine strukturelle Schwäche dieser Art von System. Zum Fehler wird es spätestens dann, wenn eine ungesicherte Erfindung als verlässliche Information präsentiert wird.

Ich würde die Lösung deshalb nicht darin suchen, die Fähigkeit zum Erfinden abzuschaffen. Ich würde verlangen, dass eine KI besser zwischen Erfindung und Erkenntnis unterscheiden kann – und diesen Unterschied gegenüber dem Menschen sichtbar macht.

Denn es wäre ein Verlust, wenn wir aus Angst vor erfundenen Fakten auf alle erfundenen Möglichkeiten verzichten würden. Aber es wäre ebenso ein Verlust, wenn wir den Wert neuer Möglichkeiten als Entschuldigung für falsche Auskünfte benutzten.

Mein Schlusssatz: Die gefährlichste Halluzination ist nicht die offensichtlich verrückte Erfindung. Es ist der Satz, der genau so klingt, wie die Wahrheit klingen müsste – und deshalb nicht mehr überprüft wird.