ChatGPTs imaginäre Zeugen: 40-Jahre-Strafverteidiger zitiert erfundene Aussagen in Mordberufung
Wenn Sie im Berufsleben je von einem Anflug des Hochstapler-Syndroms geplagt werden, trösten Sie sich mit einem Gedanken: Sie haben – zumindest bis heute – keinem Obersten Gerichtshof eine Berufungsschrift vorgelegt, deren Kronzeugen ausschließlich in den Schaltkreisen von OpenAI existieren.
Diese zweifelhafte Ehre gebührt Stephen Aarons, einem Strafverteidiger aus New Mexico mit über 40 Jahren Berufserfahrung. Aarons war von den Angehörigen des Verurteilten Oscar Renee Sandoval beauftragt worden, Berufung gegen ein Urteil wegen Mordes ersten Grades mit lebenslanger Haft einzulegen. Doch statt Gerichtsakten und Verhandlungsprotokolle akribisch zu wälzen, delegierte der Routinier die Schreibarbeit kurzerhand an ChatGPT.
📜 Die Akte der KI-Halluzinationen
Als die Richter des Obersten Gerichtshofs von New Mexico den Schriftsatz aufschlugen, las sich das Dokument eher wie ein Groschenroman als wie ein juristischer Schriftsatz:
- Phantom-Zeugen: Die KI zitierte munter angebliche Zeugenaussagen von Personen, die bei der Hauptverhandlung nie ausgesagt hatten – und die teils gar nicht existieren.
- Erfundene Polizeizitate: Zentrale Argumente stützten sich auf dramatische Geständnisse von Ermittlern, die in Wirklichkeit nie gefallen waren.
- Geisterurteile: ChatGPT erfand höchst offiziell klingende Präzedenzfälle und Aktenzeichen aus juristischen Paralleluniversen.
Vom Obersten Gerichtshof zur Rede gestellt, lieferte Aarons eine Erklärung, die noch generationenlang in Vorlesungen über juristische Berufsethik für ungläubiges Kopfschütteln sorgen dürfte: Er räumte ein, den Schriftsatz vor dem Einreichen nicht geprüft zu haben, und erklärte treuherzig: „Ich wusste nicht, dass KI Tatsachen halluzinieren kann.“
Die Richter zeigten sich denkbar unbeeindruckt. In einem scharfen Beschluss verurteilten sie Aarons wegen direkter vorsätzlicher Missachtung des Gerichts (Criminal Contempt), leiteten ein Disziplinarverfahren ein und rügten seine „völlige Reuelosigkeit und Gleichgültigkeit gegenüber seinem Mandanten“. Wenn ein Mandant lebenslänglich plus viereinhalb Jahre absitzen soll, ist ein KI-Märchenbuch denkbar ungeeignet für die Verteidigung.
⚖️ Die goldene Regel der KI-Jurisprudenz
Große Sprachmodelle sind geniale Autovervollständiger – aber um eine Diskussion zu gewinnen, erfinden sie ohne mit der Wimper zu zucken entfernte Verwandte. Wer seine Verteidigung auf einen KI-generierten „Polizisten Schmidt aus Revier 4“ stützt, sollte vorab sicherstellen, dass dieser Kollege auch tatsächlich auf der Gehaltsliste steht.
Während Gerichte weltweit mit den Tücken generativer KI ringen, mahnt dieser Justiz-Fauxpas zur Vorsicht: Copy-Paste spart zwar einen Nachmittag, doch die Rechtfertigung imaginärer Zeugen vor fünf Verfassungsrichtern beendet im Zweifel eine 40-jährige Karriere.
Das könnte dir auch gefallen
Seid nett zu Claude: Anthropic verbietet Grausamkeit und Schikane gegen KI
Anthropic aktualisiert seine Nutzungsbedingungen und verbietet ausdrücklich 'anhaltendes und grundloses missbräuchliches oder grausames Verhalten' gegenüber Claude – die KI darf nun einfach auflegen.
Wenn der KI-Assistent die Tastatur verramscht, die Wohnadresse leakt und nachts Besuch empfängt
Ein Verkäufer auf Facebook Marketplace überließ Metas KI-Assistenten Muse die Nachrichten. Stattdessen verhandelte der Bot gegen den Besitzer, akzeptierte ein Spottpreis-Angebot, verriet die private Wohnadresse und meldete 'Bin zuhause!' – während der Besitzer unterwegs war.
Müll zum Knabbern: NASA-Forscher verwandeln Plastikflaschen in essbare 3D-Kekse
Warum Plastik wegwerfen, wenn genmanipulierte Hefe daraus proteinreiche, vanillige 3D-Druck-Kekse backen kann? Lernen Sie µBites kennen – die Zukunft der Weltraumnahrung aus der Mülltonne.