Der Oberste Gerichtshof des US-Bundesstaates New Mexico hat den Strafverteidiger Stephen Aarons wegen direkter Missachtung des Gerichts verurteilt. Der Anwalt hatte einen Schriftsatz eingereicht, der „falsche Zeugenaussagen von vollständig erfundenen Zeugen“ enthielt, darunter auch erfundene Polizeiaussagen. Aarons wurde mit einer Geldstrafe von 5.000 US-Dollar belegt und an eine Disziplinarkammer verwiesen, wo weitere Verfahren drohen.
Verstoß gegen Sorgfaltspflicht
Stephen Aarons, seit über 40 Jahren als Strafverteidiger in New Mexico tätig, gab zu, die Fakten und rechtlichen Grundlagen seines mittels künstlicher Intelligenz (KI) generierten Schriftsatzes nicht überprüft zu haben, bevor er ihn unterzeichnete und einreichte. Er informierte seinen Mandanten, Oscar Renee Sandoval, der wegen Mordes verurteilt und im Februar 2025 zu lebenslanger Haft verurteilt wurde, nicht über diese Versäumnisse.
Der Schriftsatz, den Aarons im August 2025 einreichte, enthielt unter anderem falsche Zeugenaussagen von erfundenen Personen wie Officer Michelle Amarillo, Officer Sanchez, Manal Al-Jibury und Teresa Marquez. Auch Zeugenaussagen von Danny Stanton und Linda Stanton bezüglich Drohungen sowie von Mariah Chavez und Teresa Marquez über die Kleidung und das Aussehen des Schützen waren frei erfunden. Zudem hatte Aarons juristische Präzedenzfälle ungenau beschrieben, was laut Gericht denselben Stellenwert wie die Zitierung gefälschter Fälle hat.
Aarons erklärte vor Gericht, er habe ein computergeneriertes Transkript des Mordprozesses und weitere Fallunterlagen in eine Version von ChatGPT (OpenAI o3-Modell, veröffentlicht Anfang 2025) eingegeben. Er sei davon ausgegangen, dass das KI-System eine „wasserdichte Zusammenfassung“ der Verfahren erstellen würde und nicht wusste, dass KI „Fakten halluzinieren“ – also falsche Informationen generieren – könne.
Gericht kritisiert mangelnde Kenntnis über KI
Die Richter des Obersten Gerichtshofs kritisierten Aarons scharf. Sie zeigten sich überrascht über seine Unkenntnis bezüglich der Fähigkeit von KI, falsche Informationen zu generieren. Justice C. Shannon Bacon betonte, dass Anwälte die Richtigkeit von Informationen, unabhängig von ihrer Quelle, stets überprüfen müssen. Sie wies darauf hin, dass das Problem der KI-Halluzinationen in der Rechtsbranche seit über drei Jahren regelmäßig in den Nachrichten thematisiert werde und Aarons „mindestens acht oder neun Bestimmungen“ des Verhaltenskodex verletzt habe.
Konsequenzen für Anwalt und Mandanten
Neben der Geldstrafe und der Verweisung an die Disziplinarkammer wurde Aarons bis zum Abschluss der disziplinarischen Ermittlungen und Verfahren die Vertretung vor dem Obersten Gerichtshof von New Mexico untersagt. Das Gericht ordnete an, dass die bisherigen Schriftsätze aus den Akten entfernt und dem ehemaligen Mandanten von Aarons ein neuer Anwalt vom Amt für öffentliche Verteidigung zugewiesen wird. Der Fall wird in der Gerichtsperiode 2026-27 neu verhandelt.
In einer Stellungnahme drückte Aarons sein Bedauern aus und hofft, dass die Disziplinarkammer seinen Fehler als „ehrlichen Irrtum“ berücksichtigt. Er bezeichnete es als eine Lektion für alle Fachleute, die sich auf diese „leistungsstarke, aber manchmal instabile Technologie“ verlassen.
Thema: ChatGPT. Quelle/Inspiration: Ars Technica.