Ein Angeklagter versuchte, seine Argumente mit einem KI-Avatar vor Gericht zu präsentieren – ein Experiment, das spektakulär scheiterte. Der Vorfall löste eine heftige Reaktion der Richterin aus und wirft grundsätzliche Fragen zum Einsatz von KI in der Justiz auf.
Ein bemerkenswerter Fall vor dem Obersten Gerichtshof von New York wirft ein Schlaglicht auf die Herausforderungen durch KI in der Justiz. Jerome Dewald, ein 74-jähriger Mann, der sich selbst in einem Arbeitsrechtsstreit vertrat, versuchte, seine Argumente mittels eines KI-generierten Avatars per Video vorzutragen. Dieser unkonventionelle Ansatz stieß jedoch auf sofortigen und deutlichen Widerstand der zuständigen Richterin, was die Sitzung abrupt unterbrach und die prozessualen Schwierigkeiten aufzeigte, die durch mangelnde Transparenz bei der Nutzung neuer Technologien entstehen können. Das Ereignis dient als warnendes Beispiel.
Der Vorfall spielte sich Ende März ab. Dewald hatte die Erlaubnis erhalten, eine vorab aufgezeichnete Videoaussage zu präsentieren. Richterin Sallie Manzanet-Daniels war jedoch nicht darüber informiert worden, dass es sich um eine KI-generierte Darstellung handeln würde. Kaum hatte das Video mit den Worten „Sehr geehrtes Gericht“ begonnen, griff die Richterin ein. Ihre direkte Frage an Dewald, ob dies sein Anwalt sei, wurde mit der klaren Aussage beantwortet: „Nein, ich habe ihn mit KI erstellt, das ist kein echter Mensch“.
Es wäre nett gewesen, das vorher zu wissen. Ich schätze es nicht, auf die falsche Fährte gelockt zu werden.
Die Richterin zeigte sich sichtlich verärgert über die fehlende Offenheit. Sie betonte, Dewald hätte bereits zuvor mündlich ausgesagt, weshalb dieser technologische Umweg unnötig erschien. Nach Abbruch des Videos bot sie ihm lediglich fünf Minuten für eine direkte Aussage an. Dewalds Motivation war nachvollziehbar: Er neigt zum Stottern und wollte durch den Avatar einen souveräneren Eindruck hinterlassen und einen peinlichen Auftritt vermeiden. Zeitmangel verhinderte die Erstellung einer digitalen Replik seiner selbst, was zur Notlösung Avatar führte.
Die Konsequenzen für Dewald waren gravierend. Unvorbereitet musste er nach dem abgebrochenen Videoversuch selbst aussagen. Beobachter beschrieben die Szene als nahezu schmerzhaft peinlich, da er offenbar versuchte, dem Wortlaut des KI-Skripts über Kopfhörer zu folgen und dabei stotterte. Später reichte Dewald eine schriftliche Entschuldigung bei der Richterin ein. Darin beteuerte er, niemanden täuschen gewollt zu haben, und anerkannte die Notwendigkeit von Offenheit und Transparenz im Gerichtsprozess.
Der Einsatz von Künstlicher Intelligenz im Gerichtswesen steckt noch in den Anfängen, birgt jedoch sowohl Chancen als auch erhebliche Risiken. Studien deuten darauf hin, dass KI-Modelle bei Aufgaben wie der Vertragsprüfung durchaus mit jungen Anwälten mithalten können, was Effizienzsteigerungen und Kostensenkungen verspricht. Diese Potenziale stehen jedoch klaren Gefahren gegenüber, insbesondere wenn die Technologie unreflektiert oder intransparent eingesetzt wird und die Integrität juristischer Prozesse gefährdet.
Die Risiken der Automatisierung juristischer Aufgaben sind real. Es gab bereits Fälle, in denen Anwälte durch KI-generierte Falschinformationen – etwa erfundene Urteilsbegründungen oder nicht existierende Gesetzestexte – erhebliche Probleme bekamen. Ein bekanntes Beispiel betrifft Michael Cohen, der sich auf von einem Chatbot generierte, aber falsche Präzedenzfälle berief. Dies unterstreicht die Gefahr, wenn Nutzer die Funktionsweise und Fehleranfälligkeit von KI-Systemen unterschätzen und blind auf deren Output vertrauen.
Der Fall Dewald ist kein Einzelfall bei der Integration von KI in die Justiz. In Arizona beispielsweise nutzt der Oberste Gerichtshof bereits KI-Avatare, um Gerichtsentscheidungen für die Öffentlichkeit zusammenzufassen und so die Verständlichkeit zu erhöhen. Gleichzeitig gehen Behörden wie die US Federal Trade Commission (FTC) gegen Unternehmen vor, die KI zur Täuschung von Verbrauchern einsetzen. Diese Entwicklungen zeigen das Spannungsfeld zwischen innovativem Potenzial und ethischen Fallstricken, mit dem sich die Justiz auseinandersetzen muss.
Das Debakel um Jerome Dewalds KI-Avatar dient als deutliche Warnung. Es illustriert eindrücklich die Grenzen und Risiken beim Einsatz von KI im Gerichtssaal, insbesondere wenn Transparenz fehlt. Während KI das Potenzial hat, juristische Abläufe zu optimieren, muss ihr Einsatz sorgfältig abgewogen werden. Oberste Priorität muss der Schutz der Integrität und Fairness des Rechtssystems haben. Nur durch klare Regeln und offene Kommunikation kann das Vertrauen in die Justiz auch im Zeitalter der KI gewahrt bleiben. Ein KI-Anwalt vor Gericht ging ebenfalls schief, was die Thematik unterstreicht.
