Polizei und Gerichte setzen auf KI. Ist das System bereit dafür?

(SeaPRwire) –   Kann KI genutzt werden, um das Strafrechtssystem fairer und effizienter zu gestalten, oder wird sie nur schädliche Vorurteile verstärken? Experten sagen, dass sie bisher auf besorgniserregende Weise eingesetzt wurde – aber dass es Potenzial für positive Auswirkungen gibt.

Heute hat die KI-Technologie fast jeden Aspekt des Strafrechtssystems erreicht. Sie wird in Gesichtserkennungssystemen zur Identifizierung von Verdächtigen eingesetzt, in „Predictive Policing“-Strategien zur Erstellung von Patrouillenrouten, in Gerichtssälen zur Unterstützung des Fallmanagements und von Pflichtverteidigern zur Durchforstung von Beweismitteln. Während Befürworter auf eine Steigerung der Effizienz und Fairness verweisen, werfen Kritiker ernsthafte Fragen zu Datenschutz und Rechenschaftspflicht auf.

Letzten Monat startete der Council on Criminal Justice eine überparteiliche Initiative zu KI, um zu untersuchen, wie KI sicher und ethisch im Strafrechtssystem eingesetzt werden kann. Die Arbeit der Gruppe wird von Forschern bei RAND unterstützt, und sie werden schließlich ihre Erkenntnisse nutzen und Empfehlungen an politische Entscheidungsträger und Strafverfolgungsbehörden richten.

„Es steht außer Frage, dass KI zu ungerechten Ergebnissen führen kann“, sagt Nathan Hecht, der Vorsitzende der Task Force und ehemaliger Oberster Richter des Obersten Gerichtshofs von Texas. „Diese Task Force möchte Technologieexperten, Strafrechtsexperten, Gemeindevertreter, Experten in verschiedenen Bereichen zusammenbringen und sich zusammensetzen, um zu sehen, wie wir sie nutzen können, um das System zu verbessern und nicht den Schaden zu verursachen, zu dem es fähig ist.“

Risiken von KI in der Strafverfolgung

Viele Gerichte und Polizeibehörden nutzen bereits KI, sagt Hecht. „Es ist sehr stückweise: Neugierige Leute sagen: ‚Oh, wow, es gibt diese KI da draußen, wir könnten sie im Strafgericht verwenden.’“

Da es jedoch nur wenige Standards für den Einsatz von KI gibt, sind Bürgerrechtsorganisationen besorgt darüber, dass Strafverfolgungsbehörden sie auf gefährliche Weise einsetzen. Tausende von Behörden verlassen sich auf Gesichtserkennungstechnologie, die von Unternehmen wie Clearview verkauft wird, das eine Datenbank mit Milliarden von Bildern hostet, die aus dem Internet gescrapt wurden. In vielen Datenbanken sind Schwarze überrepräsentiert, zum Teil, weil sie in Gemeinden leben, die überpolizeilich überwacht werden. Die KI-Technologie ist auch schlechter darin, Unterschiede in den Gesichtern von Schwarzen zu erkennen, was zu höheren Falschidentifikationsraten führen kann.

Letztes Jahr berichtete das Innocence Project, eine gemeinnützige Rechtsorganisation, dass es mindestens sieben unrechtmäßige Verhaftungen aufgrund von Gesichtserkennungstechnologie gegeben hat, von denen sechs zu Unrecht beschuldigte Schwarze betrafen. Walter Katz, der Direktor für Politik der Organisation, sagt, dass die Polizei manchmal Verhaftungen ausschließlich auf der Grundlage der Gesichtserkennungsergebnisse von KI vornimmt, anstatt die KI als Ausgangspunkt für eine größere Untersuchung zu nutzen. „Es gibt eine übermäßige Abhängigkeit von KI-Ergebnissen“, sagt er.

Katz sagt, dass, als er im vergangenen Herbst zu einer Polizeikonferenz ging, „es überall KI gab“. Anbieter priesen aggressiv technologische Werkzeuge an, die behaupteten, echte Probleme in Polizeibehörden zu lösen. „Aber bei diesem Angebot wurde wenig auf Kompromisse oder Risiken geachtet“, sagt er. Kritiker befürchten beispielsweise, dass viele dieser KI-Tools die Überwachung öffentlicher Räume verstärken werden, einschließlich der Überwachung friedlicher Demonstranten – oder dass sogenannte Hotspot-Strategien die Durchgreifen der Strafverfolgungsbehörden in überpolizeilich überwachten Gebieten verstärken werden.

Wo KI helfen könnte

Katz räumt jedoch ein, dass KI im Strafrechtssystem ihren Platz hat. „Es wird sehr schwer sein, sich die KI wegzudenken – und es gibt Bereiche, in denen KI hilfreich sein kann“, sagt er. Aus diesem Grund trat er der KI-Task Force des Council on Criminal Justice bei. „In erster Linie geht es darum, ein Gefühl dafür zu bekommen, wie schnell die Einführung erfolgt. Und wenn alle davon ausgehen, dass es wahrscheinlich falsch ist, überhaupt keine Richtlinien zu haben, dann bauen wir darauf auf.“

Hecht, der Vorsitzende der Task Force, sieht mehrere Bereiche, in denen KI im Gerichtssaal hilfreich sein könnte, beispielsweise bei der Verbesserung des Aufnahmeverfahrens für verhaftete Personen oder bei der Identifizierung von Personen, die sich für Diversionsprogramme qualifizieren, die es Straftätern ermöglichen, Verurteilungen zu vermeiden. Er hofft auch, dass die Task Force Empfehlungen dazu geben wird, welche Arten der KI-Nutzung im Strafrecht ausdrücklich nicht genehmigt werden sollten, sowie Schritte zum Schutz der Privatsphäre der Öffentlichkeit. „Wir wollen versuchen, das notwendige Fachwissen zusammenzutragen, um den Nutzern des Produkts und der Öffentlichkeit zu versichern, dass dies Ihre Erfahrung mit dem Strafrechtssystem verbessern wird – und danach werden wir Sie in Ruhe lassen“, sagt er.

Inzwischen gibt es viele andere unabhängige Bemühungen, KI zur Verbesserung der Justizprozesse einzusetzen. Ein Startup, JusticeText, hofft, KI zu nutzen, um die Kluft zwischen den Ressourcen von Staatsanwälten und Pflichtverteidigern zu verringern, von denen letztere in der Regel stark unterbesetzt und unterversorgt sind. JusticeText entwickelte ein Tool für Pflichtverteidiger, das stundenlange 911-Anrufe, Aufnahmen von Körperkameras der Polizei und aufgezeichnete Vernehmungen durchsucht, um diese zu analysieren und festzustellen, ob beispielsweise die Polizei widersprüchliche Aussagen gemacht oder suggestive Fragen gestellt hat.

„Wir wollten wirklich sehen, wie es aussieht, wenn man sich in erster Linie für einen Pflichtverteidiger einsetzt, und versuchen, das Spielfeld auszugleichen, das die Technologie in den vergangenen Jahren in vielerlei Hinsicht verschärft hat“, sagt Gründer und CEO Devshi Mehrotra. JusticeText arbeitet mit rund 75 Pflichtverteidigeragenturen im ganzen Land zusammen.

Recidiviz, eine gemeinnützige Organisation für Strafrechtsreformen, hat ebenfalls verschiedene Möglichkeiten getestet, KI in ihre Arbeitsabläufe zu integrieren, darunter die Bereitstellung von KI-generierten Zusammenfassungen von Klienten für Bewährungshelfer. „Sie haben vielleicht 80 Seiten Fallnotizen, die sieben Jahre zurückliegen, über diese Person, die Sie nicht lesen werden, wenn Sie 150 Fälle haben und jeden einzelnen davon jeden Monat sehen müssen“, sagt Andrew Warren, Mitbegründer von Recidiviz. „KI könnte sehr prägnante Highlights geben, was diese Person bereits erreicht hat und wobei sie Unterstützung gebrauchen könnte.“

Die Herausforderung für politische Entscheidungsträger und die Task Force des Council on Criminal Justice besteht dann darin, zu bestimmen, wie Standards und Aufsichtsmechanismen entwickelt werden können, damit der Nutzen aus den Effizienzgewinnen der KI ihre Fähigkeit überwiegt, bestehende Vorurteile zu verstärken. Hecht von der Task Force hofft auch, sich vor einer Zukunft zu schützen, in der eine Black-Box-KI von selbst lebensverändernde Entscheidungen trifft.

„Sollten wir sicherstellen, dass unsere traditionellen Vorstellungen von menschlicher Gerechtigkeit geschützt werden? Natürlich. Sollten wir sicherstellen, dass fähige Richter und Verantwortliche des Strafrechtssystems die totale Kontrolle haben? Natürlich“, sagt er. „Aber zu sagen, dass wir KI aus dem Justizsystem heraushalten werden, ist hoffnungslos. Anwaltskanzleien nutzen sie. Das Ziviljustizsystem nutzt sie. Sie ist gekommen, um zu bleiben.“

“`