Deutsche und walisische Richter erhalten vorsichtige Zustimmung zur Nutzung von KI beim Verfassen rechtlicher Stellungnahmen

(SeaPRwire) –   (LONDON) – Das 1000 Jahre alte Rechtssystem Englands – das immer noch von Traditionen geprägt ist, die das Tragen von Perücken und Roben beinhalten – hat einen vorsichtigen Schritt in die Zukunft gemacht, indem Richtern die Erlaubnis erteilt wurde, künstliche Intelligenz zur Hilfe bei der Erstellung von Urteilen zu nutzen.

Der Courts and Tribunals Judiciary hatte im letzten Monat gesagt, dass KI bei der Abfassung von Stellungnahmen helfen könnte, aber betonte, dass sie nicht für Recherchen oder rechtliche Analysen verwendet werden sollte, da die Technologie falsche, ungenaue und voreingenommene Informationen fabrizieren und bereitstellen kann.

“Richter müssen die sorgfältige Nutzung von KI nicht ablehnen”, sagte Master of the Rolls Geoffrey Vos, der zweithöchste Richter in England und Wales. “Aber sie müssen sicherstellen, dass sie das Vertrauen schützen und die volle persönliche Verantwortung für alles übernehmen, was sie produzieren.”

Zu einer Zeit, in der Wissenschaftler und Rechtsexperten über eine Zukunft nachdenken, in der KI Anwälte ersetzen, Geschworene auswählen oder sogar Fälle entscheiden könnte, ist der am 11. Dezember von der Judikative dargelegte Ansatz zurückhaltend. Aber für einen Berufsstand, der technologischen Veränderungen langsam folgt, ist es ein proaktiver Schritt, da Regierung und Industrie – und die Gesellschaft im Allgemeinen – auf eine sich schnell weiterentwickelnde Technologie reagieren, die abwechselnd als Allheilmittel und Bedrohung dargestellt wird.

“Es gibt derzeit eine lebhafte öffentliche Debatte darüber, ob und wie künstliche Intelligenz reguliert werden sollte”, sagte Ryan Abbott, Professor für Recht an der University of Surrey und Autor von “The Reasonable Robot: Artificial Intelligence and the Law”.

“KI und die Justiz ist etwas, worüber sich die Menschen besonders Sorgen machen, und es ist ein Bereich, in dem wir besonders vorsichtig sind, Menschen in die Schleife einzubeziehen”, sagte er. “Deshalb denke ich, dass KI die richterliche Tätigkeit möglicherweise langsamer stören wird als andere Bereiche, und wir dort vorsichtiger vorgehen werden.”

Abbott und andere Rechtsexperten begrüßten, dass die Justiz die neuesten Iterationen von KI ansprach, und sagten, die Richtlinien würden weltweit von Gerichten und Richtern begrüßt, die KI einsetzen oder besorgt darüber sind, was sie mit sich bringen könnte.

Mit dem, was als erster Schritt beschrieben wurde, bewegte sich England und Wales in Richtung der Spitze der Gerichte, die sich mit KI befassen, auch wenn es nicht die erste solche Richtlinie war.

Vor fünf Jahren verabschiedete die Europäische Kommission für die Effizienz der Justiz des Europarats eine ethische Charta für den Einsatz von KI in Gerichtssystemen. Obwohl dieses Dokument nicht auf dem neuesten Stand der Technik ist, ging es damals um grundlegende Prinzipien wie Rechenschaftspflicht und Risikominderung, an die sich Richter halten sollten, sagte Giulia Gentile, Dozentin an der Essex Law School, die sich mit dem Einsatz von KI in Rechts- und Justizsystemen beschäftigt.

Obwohl der Vorsitzende Richter am Obersten Gerichtshof der USA, John Roberts, in seinem jährlichen Bericht Vor- und Nachteile der künstlichen Intelligenz ansprach, hat das Bundesgerichtssystem in Amerika noch keine Richtlinien für KI festgelegt, und die Bundesstaats- und Bezirksgerichte sind zu fragmentiert für einen universellen Ansatz. Aber einzelne Gerichte und Richter auf Bundes- und lokaler Ebene haben ihre eigenen Regeln aufgestellt, sagte Cary Coglianese, Professor für Recht an der University of Pennsylvania.

“Dies ist sicherlich eine der ersten, wenn nicht die erste veröffentlichte Sammlung von KI-bezogenen Richtlinien in englischer Sprache, die sich weitläufig an Richter und deren Mitarbeiter richtet”, sagte Coglianese über die Richtlinien für England und Wales. “Ich vermute, dass viele, viele Richter ihre Mitarbeiter intern vor den bereits bestehenden Richtlinien zur Vertraulichkeit und Internetnutzung gewarnt haben, die sich auf die öffentlich zugänglichen Portale beziehen, die ChatGPT und andere solche Dienste anbieten.”

Die Richtlinien zeigen die Akzeptanz der Technologie durch die Gerichte, aber noch keine vollständige Übernahme, sagte Gentile. Sie kritisierte einen Abschnitt, in dem es hieß, dass Richter ihre Nutzung der Technologie nicht offenlegen müssen, und fragte, warum es keinen Mechanismus für Rechenschaftspflicht gab.

“Ich denke, dass dies sicherlich ein nützliches Dokument ist, aber es wird sehr interessant sein zu sehen, wie dies in der Praxis umgesetzt werden könnte”, sagte Gentile. “Es gibt keine konkrete Angabe dazu, wie dieses Dokument in der Praxis funktionieren würde. Wer wird die Einhaltung dieses Dokuments überwachen? Welche Sanktionen gibt es? Oder vielleicht gibt es keine Sanktionen. Wenn es keine Sanktionen gibt, was können wir dann dagegen tun?”

In seinem Bestreben, die Integrität des Gerichts aufrechtzuerhalten und gleichzeitig voranzuschreiten, ist die Richtlinie voller Warnungen vor den Grenzen der Technologie und möglichen Problemen, wenn ein Anwender sich ihrer Funktionsweise nicht bewusst ist.

Ganz oben auf der Liste steht eine Mahnung zu Chatbots wie ChatGPT, dem konversationsfähigen Werkzeug, das im vergangenen Jahr in die Öffentlichkeit explodierte und aufgrund seiner Fähigkeit, in kurzer Zeit alles von Seminararbeiten bis hin zu Songs und Marketingmaterialien zu verfassen, am meisten Aufmerksamkeit erregte.

Die Gefahren der Technologie vor Gericht sind bereits berüchtigt, nachdem sich zwei New Yorker Anwälte auf ChatGPT verlassen hatten, um eine rechtliche Stellungnahme zu verfassen, die fiktive Fälle zitierte. Die beiden wurden von einem verärgerten Richter zu einer Geldstrafe verurteilt, der die von ihnen abgesegnete “rechtliche Kauderwelsch” nannte.

Da Chatbots die Fähigkeit haben, Fragen, die sie gestellt bekommen, zu speichern und andere Informationen zu behalten, die ihnen zur Verfügung gestellt werden, wurden Richter in England und Wales angewiesen, nichts Privates oder Vertrauliches preiszugeben.

“Geben Sie in einen öffentlichen KI-Chatbot keine Informationen ein, die sich nicht bereits im öffentlichen Bereich befinden”, besagt die Richtlinie. “Alle Informationen, die Sie in einen öffentlichen KI-Chatbot eingeben, sollten als veröffentlicht für die ganze Welt angesehen werden.”

Weitere Warnungen beinhalten die Kenntnis darüber, dass ein Großteil des rechtlichen Materials, mit dem KI-Systeme trainiert wurden, aus dem Internet stammt und häufig weitgehend auf US-Recht basiert.

Aber Richter mit umfangreichen Fallakten und die regelmäßig Dutzende, manchmal Hunderte Seiten lange Entscheidungen verfassen, können KI als sekundäres Werkzeug nutzen, insbesondere beim Verfassen von Hintergrundmaterial oder der Zusammenfassung bereits bekannter Informationen, so die Gerichte.

Neben der Nutzung der Technologie für E-Mails oder Präsentationen wurde Richtern mitgeteilt, dass sie sie nutzen können, um schnell Material zu finden, mit dem sie vertraut sind, aber nicht sofort zur Hand haben. Sie sollte jedoch nicht für das Auffinden neuer Informationen verwendet werden, die nicht unabhängig überprüft werden können, und sie ist derzeit nicht in der Lage, überzeugende Analysen oder Begründungen zu liefern, so die Gerichte.

Der Berufungsrichter Colin Birss lobte kürzlich, wie ChatGPT ihm bei der Abfassung eines Absatzes in einem Rechtsgebiet half, mit dem er sehr vertraut war.

“Ich habe ChatGPT gefragt, ob es eine Zusammenfassung dieses Rechtsgebiets geben kann, und es hat mir einen Absatz gegeben”, sagte er der Law Society. “Ich weiß, was die Antwort ist, weil ich gerade einen Absatz schreiben wollte, der das sagte, aber es hat es für mich getan und ich habe es in mein Urteil aufgenommen. Es steht dort und ist sehr nützlich.”