Künstliche Intelligenz statt Richter? Ex-Gerichtspräsidentin erklärt, warum

Bridget McCormack weiß, was es bedeutet, ein Justizsystem zu leiten. Drei Jahre lang führte sie als Präsidentin des Obersten Gerichtshofs das gesamte Gerichtssystem von Michigan. Sie sah Tausende Richter, Tausende Fehler und Millionen Menschen, die sich Gerechtigkeit nicht leisten konnten. Jetzt steht sie an der Spitze von etwas, das wie Science-Fiction klingt: einem KI-System, das Rechtsstreitigkeiten anstelle von Menschen entscheidet.

Die American Arbitration Association (AAA) feiert ihr hundertjähriges Bestehen. McCormack leitet sie als Präsidentin und CEO. Und unter ihrer Führung entstand der AI Arbitrator – eine künstliche Intelligenz, die bei bestimmten Arten von Streitfällen menschliche Schiedsrichter ersetzen soll. Der erste Fall liegt bereits auf dem Tisch. Klingt das verrückt? McCormack behauptet, verrückt sei eher das, was wir bisher tun.

Wenn ein Richter Namen verwechselt

„Sie sind doch schon Menschen begegnet, oder? Sie sind fehlerhaft“, sagt McCormack mit einem Lächeln, das andeutet, dass sie konkrete Geschichten im Sinn hat. Und dann erzählt sie eine davon. Als Gerichtspräsidentin in Michigan setzte sie sich für Reformen ein. Ein Richter aus einem benachbarten Bezirk kritisierte sie dafür in einem öffentlichen Forum – er behauptete, sie habe Dinge gesagt, die angeblich skandalös gewesen seien. Das Problem? McCormack war überhaupt nicht in diesem Forum. Dort war ihre Kollegin Megan Kavanagh. Beide sind weiße Frauen mit irischen Nachnamen.

Als McCormack den Richter anrief und ihm sagte, sie habe ein Alibi, antwortete er: „Nein, Sie waren dort.“ Und damit war die Sache für ihn erledigt. Was kann man dagegen tun? Menschliche Richter werden müde, haben Hunger und machen Fehler. Studien zu Fehlverurteilungen zeigen, dass es in 3 bis 5 Prozent der Fälle zu einem Fehler kam. „Wenn man Freiwürfe wirft, ist das eine niedrige Zahl“, erklärt McCormack. „Aber wenn man Flugzeuge landet? Dann ist das keine gute Zahl mehr. Und die Strafjustiz sollte eher wie das Landen von Flugzeugen sein.“

Schiedsverfahren sind nicht nur etwas für Reiche

Die meisten von uns haben eine Schiedsklausel unterschrieben, ohne davon zu wissen. Sie steckt in den Bedingungen für einen Mobilfunktarif, eine intelligente Waschmaschine oder einen Arbeitsvertrag. Ein Schiedsverfahren ist ein privates System zur Beilegung von Streitigkeiten – statt vor Gericht wendet man sich an eine neutrale dritte Partei, einen Schiedsrichter, der den Streit schneller und kostengünstiger entscheidet. Die AAA ist die größte gemeinnützige Organisation in diesem Bereich. Jährlich verwaltet sie mehr als eine halbe Million Fälle. Meist handelt es sich um Streitigkeiten zwischen Unternehmen, doch immer häufiger kommen auch kleine Unternehmen und Einzelpersonen ohne Anwälte hinzu.

McCormack hebt eine überraschende Tatsache hervor: In einem Schiedsverfahren ist die Chance größer, dass Ihnen jemand zuhört, als vor einem gewöhnlichen Gericht. Warum? Weil das Gerichtssystem überlastet ist, die Regeln kompliziert sind und 92 Prozent der Amerikaner sich keinen Anwalt leisten können. Die meisten Fälle enden mit einer Abweisung wegen formaler Fehler – etwa weil Sie die Dokumente nicht gemäß Regel 26.4A in dreifacher Ausfertigung eingereicht haben.

„Schauen Sie sich Verbraucherschulden an“, sagt McCormack. „Das ist die häufigste Art von Fällen vor einzelstaatlichen Gerichten. Und wie viele davon werden abgewiesen, weil der Verbraucher irgendeine auf Latein verfasste Regel nicht eingehalten hat? Sie können nicht zum Verkäufer des Kühlschranks zurückgehen und sagen: ‚Dieses Gerichtsverfahren war nicht fair, weil ich kein Latein lesen konnte.‘“

Wie der KI-Schiedsrichter funktioniert

Der AI Arbitrator entscheidet bislang nur über Baustreitigkeiten, die ausschließlich auf Dokumenten beruhen. Keine Zeugen, keine Vernehmungen. Nur Verträge, Rechnungen, Lieferscheine und E-Mails. Warum ausgerechnet das Bauwesen? McCormack erklärt: „Wir haben eine lange Geschichte mit der Baubranche. Sie braucht Schnelligkeit – wenn es während eines großen Projekts zu einem Streit kommt, möchte niemand, dass alles stillsteht. Und KI beeinflusst ihr Geschäft bereits, deshalb ist sie offen für Neues.“

Das System funktioniert als eine Reihe von KI-Agenten – etwa 20 verschiedene Programme, die zusammenarbeiten. Zunächst analysieren sie die Beschwerden beider Parteien, die Beweise und den rechtlichen Rahmen. Dann wenden sie sich wieder an die Parteien und sagen: „So haben wir es verstanden. Ist das richtig?“ Die Parteien können korrigieren, was falsch ist. Der Vorgang wird so lange wiederholt, bis beide Parteien sagen: „Ja, genau so ist es.“

Erst dann beginnen die Entscheidungsagenten, den Streit zu analysieren und eine Entscheidung vorzubereiten. Und hier kommt der entscheidende Moment: Ein menschlicher Schiedsrichter hat das letzte Wort. Er überprüft die Arbeit der KI und trifft erst dann die endgültige Entscheidung. „Wir wollen nicht, dass die Agenten Zeugenaussagen bewerten“, räumt McCormack ein. „Das kommt vielleicht eines Tages, aber heute sind wir noch nicht darauf vorbereitet.“

Halluzinationen und Vertrauen

Die größte Sorge? KI-Systeme halluzinieren. Sie erfinden Fakten, Daten und ganze Geschichten. Wie lässt sich das bei einem System verhindern, das über das Geld und die Rechte von Menschen entscheiden soll? „Wenn Sie Ihren Streitfall und alle Dokumente nehmen und in ChatGPT eingeben würden, bekämen Sie sofort ein Ergebnis“, sagt McCormack. „Vielleicht wäre es in Ordnung. Vielleicht auch nicht. Aber das ist nicht das, was wir entwickelt haben. Deshalb gehen wir so eng begrenzt und langsam vor.“

Das System wurde an historischen Fällen der AAA trainiert, verfügt über strenge Regeln und unterliegt menschlicher Aufsicht. Jede Entscheidung wird geprüft. „Man braucht ein kontrolliertes, transparentes und geprüftes System, damit Menschen Vertrauen aufbauen können“, erklärt sie. Dann stellt sie eine provokante Frage: „Womit vergleichen wir es? Wenn Sie glauben, dass die Menschen großes Vertrauen in das derzeitige menschliche, überlastete Justizsystem haben, stelle ich Ihnen gern ein paar Menschen vor, die dem widersprechen würden.“ Berufungsgerichte heben Entscheidungen untergeordneter Gerichte in überraschend vielen Fällen auf. Menschen machen Fehler. Vielleicht mehr, als wir denken.

Eine Zukunft, die Fragen aufwirft

McCormack hat eine klare Vision: „In einigen Jahren werden wir es für verrückt halten, dass wir Menschen Autos fahren ließen. Und wir werden es auch für verrückt halten, einen Menschen mit all seinen Fehlern und Vorurteilen über private Streitigkeiten entscheiden zu lassen.“ Nicht alle Fälle sollten von KI entschieden werden. Strafsachen und Streitigkeiten gegen den Staat müssen bei öffentlichen Gerichten bleiben, sagt sie unmissverständlich. Dort sind Transparenz und öffentliche Kontrolle erforderlich.

Aber was ist mit Streitigkeiten zwischen einer Versicherung und einem Krankenhaus über die Erstattung einer Behandlung? Was ist mit kleineren Baustreitigkeiten? Was ist mit Tausenden Fällen, die heute niemand bearbeitet, weil es zu teuer und zu kompliziert ist? „Stellen Sie sich vor, diese Streitigkeiten könnten sofort beigelegt werden, statt zwei Jahre zu dauern“, sagt McCormack. „Jemand wartet darauf, dass die Versicherung dem Krankenhaus mitteilt, sie werde die Behandlung bezahlen. Und er stirbt, bevor er eine Antwort erhält. Wenn man diesen Streit sofort lösen könnte, in einem System, das transparent zeigt, wie es arbeitet ... Ich glaube, manche Menschen würden sagen: ‚Ja, bitte. Morgen.‘“

Der erste Fall läuft bereits im System. McCormack schätzt, dass es in zwei Jahren Dutzende Arten von Streitigkeiten geben wird, die KI lösen kann. In fünf bis zehn Jahren? Vielleicht verändert sich die gesamte Rechtswelt.

Vertrauen wir KI mehr als Menschen? Diese Frage müssen wir uns stellen. Denn die Antwort ist nicht mehr theoretisch – der KI-Richter ist da. Und er wartet auf den nächsten Fall.

Quelle: theverge.com