Mein Opa ist 91, wir unterhalten uns. Irgendwann kommt er auf KI. „Die kann doch nichts Neues machen“, sagt er. „Die reproduziert doch nur, was andere schon mal gemacht haben.“
Ich versuche zu erklären, wie das System lernt. Dass es auf Mustern aufbaut, ja. Dass es inzwischen aber auch Fälle gibt, in denen KI in der Forschung Ansätze vorschlägt, die funktionieren. Wir diskutieren. Ich beginne ihm verschiedene Alltagsbeispiele zu nennen, in denen KI-Komponenten stecken. Die Navis etwa: Moderne Geräte nutzen inzwischen KI für Verkehrsprognosen und Routenoptimierung, laufend übers Internet aktualisiert, statt wie früher mit Update-Dateien aus dem Fachhandel.
Er hört zu. Dann sagt er: „Aber diese Navis machen ja auch Fehler. Leute fahren in Straßen rein, die gar nicht existieren. Manche landen im See.“
„Die Verantwortung“, antworte ich, „liegt ja trotzdem immer beim Menschen, der davor sitzt. Man muss selber gucken, wo man hinfährt.“
Er schweigt einen Moment. Dann, fast beiläufig: „Aber die wollen sie uns ja jetzt auch nehmen.“
„Wie meinst du das?“, frage ich.
„Na, mit diesen selbstfahrenden Autos.“
„Aber die [Verantwortung] wollen sie uns ja jetzt auch nehmen.“ — dieser Satz hat mich seitdem nicht losgelassen. Mein Opa hat seinen Führerschein vor Jahren selbst abgegeben. Warum ihn dann ausgerechnet die selbstfahrenden Autos auf diese Weise beschäftigen, frage ich mich. Vielleicht weil er immer weniger selbst tun kann. Er meint nicht „ich will lieber selber fahren“, sondern „ich möchte jemand sein, der noch selber entscheiden kann“.
Wer entscheidet, verantwortet auch. Das setzt Handlungsspielraum und Verstehen voraus. Verantworten kann ich nur für etwas, das ich verstehe und das ich auch im Nachhinein vertreten kann. Beides — Handlungsspielraum wie Verstehen — nimmt ab, wenn ich nicht mehr selbst lenke. Im Berufsalltag lassen wir KI längst mit ans Steuer, bei Schriftsätzen, Lehrplänen, Mailantworten. Wer das verantwortlich tun will, braucht etwas, das ich Verantwortungskompetenz nenne.
Vor dem Werkzeug: Was lagere ich überhaupt an KI aus?
Und Verantwortungskompetenz beginnt meiner Meinung nach schon vor dem Werkzeug bei der Frage: Mache ich es selbst, oder hole ich mir Hilfe? Und wenn Hilfe, in welcher Tiefe?
Wenn der Kühlschrank kaputt geht, kann ich selbst auf Fehlersuche gehen, einen Bekannten fragen, ins Repaircafé kommen oder eine Fachperson beauftragen. Seit über zehn Jahren koordiniere ich unser örtliches Repaircafé. Durchs Mitschauen, Fragen und Mitdenken habe ich selbst viel dazugelernt. Bei kaputten Geräten traue ich mir heute deutlich mehr zu als vor zehn Jahren.
Bei KI ist es ähnlich. Sage ich „mach du mal“ und übernehme das Ergebnis? Oder nutze ich sie als Sparringpartnerin: frage nach, lasse erklären, prüfe Schritt für Schritt? Beides hat seinen Platz. Aber beides hat unterschiedliche Folgen: für mein Verständnis, für meine Kompetenz und damit für die Verantwortung, die ich am Ende tragen kann.
Nicht jede Aufgabe, die ich delegieren kann, sollte oder muss ich delegieren. Manche Tätigkeiten sind das, woran ich mich übe und woran ich mich messen lasse: schreiben, urteilen, formulieren. Wenn ich sie auslagere, gebe ich nicht nur Arbeit ab, sondern ein Stück davon, wer ich in dieser Sache sein wollte.
Mit der Entscheidung beginnt die Verantwortung — und wo sie nicht eingelöst wird, zeigt sich aktuell besonders deutlich vor Gericht.
Wenn dein Anwalt halluziniert
Im November leitete ich einen Workshop für Justizpersonal zum Thema KI. Die Teilnehmenden brachten selbst ein Beispiel aus ihrem Arbeitsalltag mit: An den Gerichten tauchen immer häufiger falsch zitierte oder frei erfundene Urteile in Schriftsätzen auf, weil Anwält:innen ihre Schriftsätze inzwischen mit KI vorbereiten.
Es ist kein Einzelfall und nicht nur ein deutsches Phänomen. Das Thema läuft inzwischen regelmäßig durch die Presse.
Damien Charlotin, Forscher an der HEC Paris, dokumentiert seit einigen Jahren Gerichtsfälle weltweit, in denen Anwält:innen und Laien mit KI-generierten Inhalten argumentierten und damit aufflogen. Stand 27. April 2026 umfasst seine Datenbank 1.352 Fälle. Allein in den USA über 800.
Der Trend lässt sich beziffern: Vor zwei Jahren noch 2 Fälle pro Woche. Heute: mehrere pro Tag. Am 31. März 2026 allein 17 Gerichtsentscheidungen in den USA zu mutmaßlichen KI-Halluzinationen — an einem einzigen Tag.
Im April 2026 suspendierte der Nebraska Supreme Court einen Anwalt nach zahlreichen Halluzinationen und erfundenen Fällen in einer Berufungsschrift. Er hatte die KI-Nutzung zunächst bestritten. Sein Mandant trägt jetzt 52.000 USD Gegenkosten. Es ist die erste US-Suspendierung dieser Art.
In Deutschland beginnt die Entwicklung gerade erst, ist aber angekommen: Das Amtsgericht Köln war 2025 das erste deutsche Gericht mit expliziter Rüge, weitere folgten, etwa das LG Frankfurt.
Die Fälle sind oft ähnlich gebaut: Ein Anwalt reicht einen Schriftsatz ein, der auf Urteile verweist. Auf Urteile, die nicht existieren. Ein LLM hat sie erfunden, plausibel klingend, mit korrektem Format.
In jedem dieser Fälle gilt: Die Person, die das Dokument einreicht, trägt die Verantwortung. Nicht „die KI“.
Das Prinzip ist nicht neu
Jeder konnte schon immer alles schreiben — prüfen, was andere produzieren, war seit Jahrzehnten Medienkompetenz (mehr dazu in Vertrauen im KI-Zeitalter). Neu ist die zweite Hälfte: prüfen, was ich mit KI produziere — weil die Grenze, was „mein Text“ ist, dabei verschwimmt.
Zurück zum Workshop. Was die Teilnehmenden brachten, war eine differenzierte Haltung: kein pauschales KI-Misstrauen, sondern konkrete Nutzungsprobleme. Liefert das System, übernehmen wir es gerne. Liefert es nicht, wird das ganze System abgelehnt. Beides drückt sich um den eigentlichen Schritt: sich mit dem Inhalt auseinanderzusetzen. Quellen prüfen, Argumentation nachvollziehen, eigenes Urteil bilden. Was uns in der Schule beigebracht wurde, als Wikipedia neu war — nicht abschreiben, sondern denken — gilt jetzt für KI-Outputs.
Verantwortung delegieren ≠ Verantwortung abgeben
Wenn ich eine Aufgabe delegiere, egal an einen Menschen oder eine KI, bleibt die Verantwortung bei mir — für die Beauftragung, die Prüfung, das Ergebnis, das unter meinem Namen erscheint. Ich kann ein KI-Tool beauftragen. Aber die Verantwortung dafür kann ich nicht abgeben — nicht rechtlich, und auch nicht intellektuell.
Selbst in den Nutzungsbedingungen der Anbieter steht ausdrücklich: Wer Tools wie Claude oder ChatGPT einsetzt, ist verpflichtet, die Outputs zu prüfen. Wer prüfen will, muss zweierlei können: einschätzen, ob das Ergebnis zur Aufforderung passt — und ob es sachlich korrekt ist. Das erste setzt einen klaren Auftrag voraus.
Dr. Sven Lüder bringt das auf eine Formel, die ich unterschreiben würde: „Wer einer KI keinen klaren Auftrag geben kann, konnte das vorher auch bei Menschen nicht. Es fiel nur weniger auf, weil Menschen bei unklarer Datenlage nicht einfach drauflos halluzinieren. Sie haben eine Ausbildung, die sie interpretieren und nachfragen lässt. KI-Chatbots tun das mit Default-Einstellungen eher nicht.“ Wer den Auftrag nicht klar formuliert, bekommt keine gute Antwort — und merkt es im Zweifel nicht einmal.
Was ich unter Verantwortungskompetenz verstehe, ist Arbeit, nicht nur Haltung:
- Prüfen, was rauskommt.
- Wissen, was reingegangen ist.
- Klar machen, wo der eigene Beitrag aufhört und der KI-Anteil beginnt.
Lüder schlägt hierfür auch ein Stufenmodell vor — von KI-frei (alles selbst) über KI-unterstützt und KI-kollaboriert bis KI-automatisiert (das System läuft eigenständig durch). Aus meiner Sicht lässt es sich gut als Reflexionstool nutzen: Wo auf dieser Skala bewege ich mich gerade, und trage ich die Verantwortung dafür bewusst? Ein Kommentator unter einem weiteren Beitrag bringt es auf den Punkt: KI demokratisiert nicht das Schreiben. Sie verschiebt nur, wo die Arbeit stattfindet. Früher saß ich über einem leeren Blatt, heute über einem Entwurf, den ich prüfen, verwerfen, umbauen muss. Die Arbeit ist nicht weniger geworden — sie liegt jetzt in Architektur, Urteilsfähigkeit und Verantwortung.
Was in der Praxis schiefgeht: KI wird zur Distanz zwischen mir und dem Ergebnis. „Ich hab das nur so übernommen“ ist kein Freifahrtschein, sondern eine Entscheidung. Und zu jeder Entscheidung gehört die Frage davor: Möchte ich das überhaupt abgeben?
Das ist die eigentliche Verantwortungsfrage. Sie kommt vor der Frage, ob die KI gut funktioniert. Wer KI-Outputs ohne eigene Auseinandersetzung einreicht, verpasst nicht nur eine Lerngelegenheit, sondern auch die Möglichkeit, das, was unter dem eigenen Namen steht, zu vertreten.
Wenn KI Verantwortung schwer macht
Formal haben wir die Verantwortung für unser Handeln, und dazu gehört der Umgang mit KI-Outputs. Doch in dieser Selbstverständlichkeit steckt eine Falle: Mit jeder Automatisierung wird der Takt schneller. Wenn KI Schriftsätze in Minuten produziert, verschiebt sich auch die Erwartung, in welcher Zeit sie fertig sein sollen. Was nicht mitwächst, ist die Zeit, in der ich sie sinnvoll prüfen kann. Mein Handlungsspielraum sinkt potenziell — die volle Verantwortung trage ich weiter.
Verantwortungskompetenz heißt daher auch: die Bedingungen einfordern, unter denen Verantwortung einlösbar bleibt — Zeit, Zuständigkeit, ein klarer Auftrag.
Wer den Kontext ins Organisatorische weiterdenken möchte: Hans Gaertner beschreibt KI-Einführung als Vertrauensarbeit auf Team-Ebene — geteilte Normen darüber, wann Outputs verlässlich sind, wann sie zu hinterfragen sind und wie man verantwortlich nutzt. Verantwortungskompetenz wird damit auch eine Frage von Führung und Kultur, nicht nur von Einzelnen.
Vertrauen und Verantwortung hängen zusammen, beides liegt beim Menschen.
Mein Opa fragt eigentlich gar nicht, ob autonomes Fahren gut oder schlecht ist. Und es geht auch nicht darum, ob KI gut oder schlecht ist, sondern um die Frage: Wer bin ich noch, wenn ich nicht mehr entscheide?
Das ist keine nostalgische Frage. Es ist eine ziemlich aktuelle.