Pras macht AI für den Schuldspruch verantwortlich. Hat er recht?

Der Einsatz künstlicher Intelligenz im Gerichtssaal hat eine gewisse Zeit inne.

Der Fugees-Rapper Pras hat seinem ehemaligen Prozessanwalt David Kenner vorgeworfen, ein Programm mit künstlicher Intelligenz verwendet zu haben, um ein Schlussplädoyer zu verfassen, das sich als „schädigend“ für seinen Fall erwiesen hat, heißt es in einem Gerichtsdokument, das The Times erhalten hat.

Der Antrag, der am Dienstag bei einem Bundesgericht in Washington, D.C. eingereicht wurde, ist Pras‘ Versuch, einen neuen Prozess zu fordern, nachdem er Anfang des Jahres wegen politischer Verschwörung für schuldig befunden wurde. Ihm drohen nun 20 Jahre Gefängnis. Am Tag der Einreichung traf sich Pras erneut mit den Fugees-Mitgliedern Wyclef Jean und Lauryn Hill für die Miseducation of Lauryn Hill-Tour zum 25-jährigen Jubiläum und trat in Pras’ Heimat New Jersey auf. In der Klageschrift führte der neue Anwalt des Rappers, Peter Zeidenberg, eine Reihe angeblicher Fehler Kenners an, darunter Vorwürfe, er habe sich „nicht ordnungsgemäß auf den Prozess vorbereitet“ und die grundlegenden Fakten des Falles nicht verstanden.

Aber über Kenner hinaus wies Pras‘ Antrag auch auf die KI-Software hin, die zum Schreiben seines Schlussplädoyers verwendet wurde: „Das KI-Programm hat Kenner im Stich gelassen, und Kenner hat Michel im Stich gelassen.“

Während der Einsatz von KI in verschiedenen Branchen zunimmt, gibt es Debatten darüber, wie die Technologie in die menschliche Arbeit und Kultur passt und diese möglicherweise verändern kann. Und jetzt, da Pras den Antrag eingereicht hat, wird der Einsatz der Technologie im Rechts- und Strafsystem genauer unter die Lupe genommen.

Haben die neuen Anwälte des Rappers den richtigen Schuldigen, wenn sie die Rolle der KI im Fall Pras näher betrachten? Oder hat die KI genau das getan, wozu sie ausgebildet wurde – menschlichen Anwälten dabei zu helfen, schneller und effizienter zu arbeiten?

Pras’ Beef mit Kenner und AI

Im April befand eine Bundesjury Pras, der mit bürgerlichem Namen Prakazrel Michel heißt, in allen Anklagepunkten der Verschwörung, der Verschleierung wesentlicher Tatsachen, falscher Eintragungen in Aufzeichnungen, Zeugenmanipulation und der Tätigkeit als nicht registrierter Agent einer ausländischen Macht für schuldig. Zu den Anklagen gehörte ein Plan, illegal zum Wiederwahlkampf des damaligen Präsidenten Obama im Jahr 2012 beizutragen.

Aber das Urteil wäre vermeidbar, wenn Pras eine angemessene rechtliche Vertretung gehabt hätte, argumentierten die neuen Anwälte des Rappers in ihrem jüngsten Antrag auf ein neues Verfahren.

Kenner ist ein in Los Angeles ansässiger Anwalt, der andere Hip-Hop-Prominente verteidigt hat, darunter Mogul Suge Knight und Westküsten-Rap-Ikone Snoop Dogg. Inmitten juristischer Kontroversen in den 1990er und frühen 2000er Jahren, die Knight’s Death Row Records betrafen, erlangte Kenner den Ruf, im Gerichtssaal aggressiv und gut vorbereitet zu sein.

Allerdings sagte Pras während seines Bundesverfahrens, dass das Gegenteil der Fall sei.

Pras‘ neues Anwaltsteam, dem der Bürgerrechtsanwalt und ehemalige demokratische Senator Doug Jones aus Alabama angehört, hat eine lange Liste von Kenners mutmaßlichen Fehltritten zusammengestellt: Er hat sich nicht mit den Vorwürfen gegen seinen Mandanten vertraut gemacht, die Prozessvorbereitung an Vertragsanwälte ausgelagert, nicht Er bereitete sich auf den Prozess vor, versäumte Einwände während des Prozesses und bereitete Pras nicht auf seine Aussage und sein Kreuzverhör vor.

Und ganz oben auf dieser Liste gegen Kenner steht der Einsatz der Software EyeLevel, einer generativen KI-Technologie, die Anwälten bei der Vorbereitung auf Fälle helfen soll.

„Kenner nutzte ein experimentelles KI-Programm, um sein Schlussplädoyer zu verfassen, das leichtfertige Argumente vorbrachte, die Pläne vermischte und es versäumte, wesentliche Schwächen im Fall der Regierung hervorzuheben“, heißt es in dem Antrag. Das von der KI generierte Argument wurde als „schädlich für die Verteidigung“ und „mangelhaft, nicht hilfreich und eine verpasste Chance“ bezeichnet.

Der Antrag machte die KI auch für einen weiteren Fehlschlag in der Schlusserklärung verantwortlich, bei dem Kenner einen Text zitierte: „Jeden einzelnen Tag, jedes Mal, wenn ich bete, werde ich dich vermissen“ und ihn fälschlicherweise dem Fugees-Song „Ghetto Supastar (That Is What.)“ zuschrieb Du bist).” Der Text stammt eigentlich aus dem Hit „I’ll Be Missing You“ von Diddy und Faith Evans aus dem Jahr 1997.

Pras warf Kenner in der Gerichtsakte außerdem vor, finanzielle Verbindungen zu EyeLevel zu haben, und behauptete, er habe die Partnerschaft verschwiegen und damit geprahlt, sie zum Geldgewinn zu nutzen. Der Antrag bezog sich auf eine nach dem Fall veröffentlichte Pressemitteilung von EyeLevel, in der der Moment als „der erste Einsatz generativer KI in einem Bundesprozess“ angepriesen wurde. In der Pressemitteilung bezeichnete Kenner die Technologie als „einen absoluten Game Changer“ und sagte, sie „verwandelte Stunden oder Tage juristischer Arbeit in Sekunden.“ Die Anwälte von Pras behaupteten, Kenners Äußerungen seien ein Beweis dafür, dass er finanzielle Interessen an dem Unternehmen habe.

Kenner antwortete nicht auf die Bitte der Times um einen Kommentar.

„Sie stellen KI vor Gericht“

Neil Katz, EyeLevel’s Mitbegründer und Chief Operations Officer, hat die Behauptungen von Pras als „fiktionales Schreiben“ abgetan.

„Hätten sie unsere KI genutzt, hätten sie möglicherweise etwas eingereicht, das die Wahrheit sagte“, sagte Katz am Donnerstag in einem Interview mit The Times. Er fügte hinzu, dass Pras‘ Antrag die Funktion seiner KI-Technologie falsch darstellte.

In seinem Antrag bezeichnete Pras EyeLevel als „experimentell“ und bemängelte verschiedene Fehler im Schlussplädoyer. EyeLevel AI unterscheidet sich jedoch von anderen bekannten generativen KI-Softwareprogrammen wie ChatGPT, die Informationen aus großen Datenmengen im Internet beziehen. Diese Art von KI ist dafür bekannt, dass sie dazu neigt, falsche Antworten zu geben.

Stattdessen, so Katz, funktioniere die KI seines Unternehmens nur auf der Grundlage der begrenzten Informationen, die ihr von Menschen zugeführt werden – in diesem Fall relevante Gerichtsdokumente, etwa Prozessprotokolle von Gerichtsverfahren. Katz beschrieb die KI als „ein Werkzeug“ und sagte, dass die KI während des Prozesses gegen Pras verwendet worden sei, um einen Entwurf der Schlussplädoyers zu verfeinern, aber nicht die gesamte Sache geschrieben habe. Der menschliche Anwalt, sagte er, müsse letztlich seinen Ermessensspielraum nutzen.

„Die menschlichen Anwälte nutzten sie, um ihre Bemerkungen zu verbessern“, sagte Katz. „Letztendlich waren sie die letzten Entscheidungsträger darüber, was vor Gericht zu sagen war.“

Katz nannte EyeLevel „kampferprobt“ und sagte, die KI werde von 100 Unternehmen eingesetzt, darunter Großkunden wie Exxon und IBM. „Das Team von Pras stellt KI auf den Prüfstand“, sagte Katz. „Wir glauben, dass die KI diesen Fall mit der Zeit im Großen und Ganzen gewinnen wird.“

Katz’ Ziel der langfristigen Vorteile der Technologie ist jedoch auf einkommensschwache Kunden gerichtet; Er hofft, dass es sogar die rechtlichen Rahmenbedingungen verbessern wird. Er sagte, er hoffe, dass die Fähigkeit der KI, komplexe und schnelle Recherchen durchzuführen und Schlüsselfragen und andere Ideen innerhalb eines Falles zu entwickeln, einem einzelnen Anwalt die gleiche Schlagkraft verschaffen werde wie einem wohlhabenden Anwaltsteam, nur billiger.

„Ein Anwalt kann wie fünf, sechs oder sieben handeln“, sagte Katz. „Die Nutznießer werden die am wenigsten wohlhabenden Amerikaner sein.“

Werden Anwälte weiterhin KI nutzen?

Inmitten der scharfen Kritik, die die KI aufgrund des Pras-Falls auf sich zieht, nutzen immer mehr Menschen im juristischen Bereich sie in Fällen.

Sharon Nelson, Präsidentin von Sensei Enterprises, einem Unternehmen für digitale Forensik, Cybersicherheit und Informationstechnologie, sagte gegenüber Associated Press, dass viele Firmen bereits ähnliche KI-Technologie nutzen und dass Umfragen zufolge mehr als 50 % der Anwälte damit im nächsten Jahr rechnen.

„Es ist viel schneller gegangen, als wir dachten“, sagte sie. „Das Problem ist, wenn man nicht damit arbeitet, bleibt man auf der Strecke.“

Allerdings gibt es bei juristischen Gremien wie der American Bar Assn. immer noch keine Richtlinien für den Einsatz von KI in Fällen. Eine neue Task Force untersucht das Problem, sagte eine ABA-Sprecherin gegenüber AP.

Dennoch befürwortet die ABA seit langem den Einsatz von KI und pries bereits 2017 die Vorteile früherer Formen der Technologie als Mittel zur Reduzierung von „Stress und Frustration bei Anwälten“. Der Verband sagte, dass KI eingesetzt werden könne, um Zeit bei der Überprüfung von Dokumenten, dem Korrekturlesen und der Rechtsrecherche zu sparen, und fügte hinzu: „Mit intelligenter Software erstellte Arbeit – die nicht ermüdet, sich langweilt oder abgelenkt wird – kann wirklich fehlerfrei sein.“

Da sich die Best Practices für KI parallel zur Weiterentwicklung der Technologie weiterentwickeln, wurde in einem kürzlich erschienenen Artikel von Bloomberg Law vorgeschlagen, dass Anwälte sich auf das beziehen, was bereits kodifiziert ist: die Regeln der ABA für berufliches Verhalten, wie etwa ihre Stellungnahmen zu Outsourcing-Arbeiten.

Und John Villasenor, Professor für Ingenieurwissenschaften und öffentliche Ordnung an der UCLA, wiederholte die Argumente von Katz: Der Mensch muss beim Einsatz von KI immer noch eine wichtige Rolle spielen. In einem Interview mit AP warnte er davor, dass „Anwälte, die KI verwenden, sicherstellen sollten, dass sie alles, was sie verwenden werden, sehr sorgfältig auf Fakten prüfen.“

„Ein guter Anwalt, der Schlussplädoyers ausarbeitet, wird sich der grundlegenden Ziele des Falles bewusst sein“, sagte er, „aber auch der spezifischen Art und Weise, wie der Prozess abgelaufen ist.“