Künstliche Intelligenz · KI-Anwendungen
Wenn Profis der Maschine vertrauen: KI im Anwaltsbüro und im Code
Weil er einen von ChatGPT erstellten Schriftsatz mit erfundenen Zeugenaussagen einreichte, belegt New Mexicos Oberstes Gericht einen Anwalt mit einer Geldstrafe. Ein KI-Labor formuliert für seinen eigenen Bereich die Gegenregel: Von KI geschriebener Produktionscode braucht einen höheren Maßstab – nicht einen niedrigeren.
Berlin, 12. September 2026 – Wo KI Arbeit übernimmt, wächst die Frage, wer sie prüft. Zwei Beispiele aus dieser Woche zeigen, wie teuer blindes Vertrauen werden kann – und wie ein KI-Labor den Maßstab für maschinengeschriebenen Code hochsetzt statt niedriger.^[Ars Technica – ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses – url: https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/ ;; Simon Willison – Quoting Boris Cherny – url: https://simonwillison.net/2026/Sep/11/boris-cherny/]
Erfundene Zeugen vor Gericht
Der Oberste Gerichtshof des US-Bundesstaats New Mexico hat einen Anwalt wegen Missachtung des Gerichts („direct contempt of court“) belegt, weil er einen Schriftsatz mit „falschen Aussagen völlig erfundener Zeugen“ eingereicht hatte – darunter erfundene Polizeiaussagen und weitere Fehler. Der Anwalt, Stephen Aarons, räumte ein, dass er die Tatsachenbehauptungen und Rechtsquellen in dem von KI erzeugten Schriftsatz nicht geprüft hatte, bevor er ihn unterzeichnete und einreichte; auch seinen Mandanten habe er über dieses Versäumnis nicht informiert.^[Ars Technica – ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses – url: https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/]
Aarons ist seit über 40 Jahren Strafverteidiger in New Mexico und wurde von Angehörigen eines Angeklagten beauftragt, eine Verurteilung wegen Mordes anzufechten. Vor dem Gericht erklärte er, er habe ein computergeneriertes Transkript des Prozesses und weitere Dokumente in ChatGPT eingegeben, das daraufhin die falschen Zitate ausgegeben habe. Genutzt habe er nach eigenen Angaben eine Version, die auf dem OpenAI-Modell o3 basierte.^[Ars Technica – ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses – url: https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/]
Die Antwort der Richter
Der Gerichtshof verwies Aarons an eine Disziplinarkammer, verhängte eine Geldstrafe von 5.000 Dollar zugunsten des Client Protection Fund der Anwaltskammer und schloss ihn bis zum Abschluss des Verfahrens von Auftritten vor dem Obersten Gerichtshof aus. Alle bisherigen Schriftsätze wurden aus dem Verfahren entfernt; die öffentliche Verteidigung muss einen neuen Anwalt benennen.^[Ars Technica – ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses – url: https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/]
Die Richterin C. Shannon Bacon rechnete scharf mit Aarons ab: „Entweder Sie haben den Kopf in den Sand gesteckt – und das ist eine bewusste Entscheidung, uninformiert zu bleiben –, oder Sie haben gezockt, und beides ist mit der Berufsordnung nicht vereinbar“, sagte sie. Sie betonte, es gebe keinen „materiellen Unterschied“ zwischen dem Zitieren eines erfundenen Falls und der unzutreffenden Darstellung eines echten; die Regeln zur Wahrheitspflicht gegenüber dem Gericht gälten in beiden Fällen gleichermaßen.^[Ars Technica – ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses – url: https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/]
Aarons sagte in einer Stellungnahme, er habe im März 2025 einen Appeal übernommen und ChatGPT genutzt, um das Verfahren zusammenzufassen. „Ich wusste damals nicht, dass KI Fakten halluzinieren kann“, so Aarons. Die Richter wiesen seinen Vorschlag zurück, künftig ein Zertifikat über die KI-Nutzung in Schriftsätzen zu verlangen – das lenke vom eigentlichen Problem ab, der unterlassenen Prüfung. Ein weiterer Richter machte die Sorgfaltspflicht unabhängig vom Werkzeug fest: Es komme nicht darauf an, ob die Arbeit ein Student, ein Kollege oder eine KI erledigt habe – entscheidend sei, dass der Unterzeichnende sie vor der Einreichung prüfe.^[Ars Technica – ChatGPT-using lawyer punished for citing fake testimony from made-up witnesses – url: https://arstechnica.com/tech-policy/2026/09/chatgpt-using-lawyer-punished-for-citing-fake-testimony-from-made-up-witnesses/]
Im Code gilt ein höherer Maßstab
Dasselbe Prinzip formuliert die KI-Firma Anthropic für ihren eigenen Bereich – nur mit umgekehrtem Vorzeichen. Boris Cherny bringt es so auf den Punkt: „Von Claude geschriebener Produktionscode sollte einen höheren Maßstab erfüllen als Code, der von einem Menschen geschrieben wurde.“ Bei Anthropic gebe es dafür viele Schutzmechanismen: zahlreiche Lint-Regeln, viele Tests, von Claude gesteuerte End-to-End-Tests, täglich laufende, von Claude betriebene Fuzzer, automatisierte Code- und Sicherheitsreviews sowie automatisiertes Refactoring. Ohne all das, so Cherny, entstehe ein schwer zu pflegendes Durcheinander.^[Simon Willison – Quoting Boris Cherny – url: https://simonwillison.net/2026/Sep/11/boris-cherny/]
Prüfen statt glauben
Die beiden Fälle verbindet dasselbe Muster: KI liefert Entwürfe – die Verantwortung bleibt bei der Person, die unterschreibt oder ausliefert. Im ersten Fall fehlte diese Prüfung und kostete einen Anwalt Geld und Reputation; im zweiten sind es genau die Prüfmechanismen, die den Einsatz überhaupt verantwortbar machen. Die Werkzeuge werden besser – die Sorgfaltspflicht wächst mit.