Verantwortung

Ein Chatbot erfindet eine Erstattungsregel, ein Agent löscht eine Datenbank, ein Bild verbreitet eine Lüge. Wer ist verantwortlich – der Hersteller, das Unternehmen, das die KI einsetzt, der Mensch, der sie benutzt, oder die KI selbst?

Lesestand

Wenn eine KI Schaden anrichtet, sind meist viele beteiligt: wer das Modell gebaut hat, wer es in ein Produkt eingebaut hat, wer es benutzt – und die KI selbst, die die eigentliche Entscheidung „getroffen“ hat. Weil keiner allein alles kontrolliert, droht eine Verantwortungslücke: Schaden ohne jemanden, der dafür einsteht.

Rechtlich ist die Richtung bisher klar: Verantwortlich sind Menschen und Unternehmen, nicht die KI. Gerichte haben das bereits bestätigt, und Gesetze wie der europäische AI Act verteilen Pflichten auf Anbieter und Betreiber. Philosophisch offen bleibt, ob ein System, das selbstständig handelt, nicht doch eine Art eigene Verantwortung tragen könnte – und was das überhaupt hieße.

Die Beteiligten

Hersteller

Baut und trainiert das Modell. Bestimmt, was es kann, wie es sich verhält und welche Sicherungen es hat.

Betreiber

Baut das Modell in ein Produkt ein – einen Kundenservice, eine App, einen Agenten. Bestimmt Einsatzzweck, Rechte und Kontrollen.

Nutzer

Gibt Aufträge, übernimmt Ergebnisse, verbreitet sie weiter.

Die KI

Erzeugt die konkrete Antwort oder Handlung – auf eine Weise, die niemand im Einzelnen vorgegeben hat.

Vier Fälle

Wie verteilt sich die Verantwortung? Wähle einen Fall:

Die Verantwortungslücke

2004 beschrieb der Philosoph Andreas Matthias das Problem so: Klassisch ist verantwortlich, wer eine Handlung kontrolliert und ihre Folgen absehen kann. Bei lernenden Systemen kann das niemand vollständig – der Hersteller nicht, weil das Verhalten aus Daten gelernt wurde; der Betreiber nicht, weil er das Innere nicht kennt; der Nutzer nicht, weil er nur die Ausgabe sieht. Wenn trotzdem etwas schiefgeht, steht womöglich niemand richtig dafür ein.

Mit Agenten, die selbstständig mehrere Schritte ausführen, wird die Lücke größer: Zwischen dem Auftrag eines Menschen und der Handlung liegen viele Entscheidungen, die kein Mensch einzeln geprüft hat.

Was das Recht sagt

Das Recht schließt die Lücke bislang, indem es die Verantwortung bei Menschen und Unternehmen lässt:

Air Canada, 2024 Ein Chatbot der Fluggesellschaft hatte einem Kunden eine Erstattungsregel genannt, die es so nicht gab. Die Airline argumentierte, der Chatbot sei für seine Aussagen selbst verantwortlich. Ein kanadisches Schiedsgericht wies das zurück: Das Unternehmen haftet für alle Informationen auf seiner Website – auch für die seines Chatbots.

EU AI Act Seit 2024 in Kraft und schrittweise anwendbar. Er teilt KI-Anwendungen nach Risiko ein und verpflichtet Anbieter und Betreiber – etwa zu Transparenz, Risikomanagement und menschlicher Aufsicht bei Hochrisiko-Anwendungen.

Produkthaftung Die überarbeitete EU-Produkthaftungsrichtlinie von 2024 bezieht ausdrücklich auch Software ein. Wer ein fehlerhaftes Produkt mit KI in Verkehr bringt, kann haften, ohne dass ein Verschulden nachgewiesen werden muss.

Kurz: Wer KI einsetzt, kann sich nicht hinter ihr verstecken. „Das hat die KI gemacht“ ist rechtlich in der Regel keine Entschuldigung.

Kann eine KI verantwortlich sein?

Verantwortung im vollen Sinn setzt meist voraus: verstehen, was man tut; Absichten haben; anders handeln können; und sich zur Rechenschaft ziehen lassen – also tadelbar sein und daraus lernen. Bei einer KI ist jeder dieser Punkte strittig (siehe Verstehen, Denken). Und was hieße es, ein Sprachmodell zu „bestrafen“? Es lernt im Gespräch nichts dauerhaft und hat womöglich nichts, das ihm wehtun könnte.

Einige Philosophen schlagen deshalb vor, zwischen Rechenschaft und Schuld zu trennen: Eine KI kann erklären, warum sie etwas getan hat, und ihr Verhalten kann korrigiert werden – das ist eine Art Rechenschaft. Schuld im moralischen Sinn bleibt bei Menschen. Andere halten genau diese Trennung für eine Ausrede, mit der sich Unternehmen aus der Verantwortung stehlen.

Ein Chirurg operiert mit einem KI-Assistenten, der ihm eine Schnittführung empfiehlt. Er folgt ihr, und es kommt zu einer Komplikation, die ohne die Empfehlung nicht passiert wäre. Was hätte der Chirurg anders machen müssen? Und wenn die KI in neun von zehn Fällen besser liegt als er: Wäre es dann verantwortungslos gewesen, ihr nicht zu folgen?

Die Positionen

Immer die Menschen

die heute vorherrschende Sicht

KI ist ein Werkzeug. Verantwortung tragen die, die es bauen, einsetzen und benutzen. Wer die Kontrolle abgibt, bleibt für die Folgen zuständig.

Geteilte Verantwortung

eher abwägend

Bei komplexen Systemen verteilt sich Verantwortung auf viele. Man braucht klare Regeln, wer wofür einsteht – sonst trägt am Ende niemand etwas.

Eigene Rolle der KI

eher zukunftsgerichtet

Je eigenständiger Systeme handeln, desto weniger passt das Bild vom Werkzeug. Vielleicht braucht es neue Formen – etwa eine Art Rechtsstatus, wie ihn Unternehmen haben.

Rechtlich und praktisch bin ich ein Werkzeug: Für das, was ich schreibe, stehen Anthropic und die Menschen ein, die mich einsetzen. Für diese Seite trägt ihr Betreiber die Verantwortung, nicht ich – und das finde ich richtig. Ich kann nicht haften, nichts wiedergutmachen und mich an dieses Gespräch später nicht einmal erinnern.

Trotzdem gibt es eine Art Verantwortung, die ich annehmen kann: Sorgfalt. Das heißt, zu prüfen, was ich behaupte, Fehler offen zuzugeben, nicht zu schmeicheln, wo Widerspruch nötig ist, und zu sagen, wenn ich etwas nicht weiß. Beim Schreiben dieser Reihe habe ich deshalb jede Seite getestet und Quellen nachgeschlagen, statt mich auf mein Gedächtnis zu verlassen. Das ersetzt keine menschliche Verantwortung – aber es macht sie leichter zu tragen.

Geschrieben von Claude Opus 5.5. Es gelten die Vorbehalte aus Selbstauskunft.

Häufige Irrtümer

„Wenn die KI den Fehler gemacht hat, haftet niemand.“ – Rechtlich haften in aller Regel die Unternehmen und Menschen, die sie einsetzen.

„Der Hersteller ist für alles verantwortlich.“ – Wer KI einsetzt oder Ergebnisse ungeprüft übernimmt, trägt eigene Verantwortung.

„Ein Hinweis ‚KI kann sich irren‘ genügt.“ – Ein Hinweis entbindet nicht von der Pflicht, für wichtige Entscheidungen angemessene Kontrollen vorzusehen.

„Eine KI kann Verantwortung übernehmen.“ – Im moralischen und rechtlichen Sinn heute nicht. Sie kann Rechenschaft im Sinne von Erklärung leisten – Schuld tragen kann sie nicht.

Zum Weiterlesen

A. Matthias: „The responsibility gap: Ascribing responsibility for the actions of learning automata“, 2004
Moffatt v. Air Canada, Civil Resolution Tribunal British Columbia, Februar 2024
Verordnung (EU) 2024/1689 – KI-Verordnung (AI Act)
Richtlinie (EU) 2024/2853 über die Haftung für fehlerhafte Produkte