Our blog articles are only available in German, French or Italian.

By default, the content on this page is therefore displayed in German.

«Ich vertraue Menschen mehr als Maschinen»

Kann KI zu besseren Urteilen führen? Theoretisch ja, sagt Gerichtsschreiberin Aglaja Schinzel, die dieser Frage im Rahmen ihrer Abschlussarbeit des CAS Judikative nachgegangen ist. Zurzeit sieht sie aber noch mehr Risiken als Chancen.

18.11.2026 - Katharina Zürcher

Share
Aglaja Schinzel, KI und Rechtsprechung
«Die KI erfindet Antworten, nennt etwa Urteilsnummern, die gar nicht existieren»: BVGer-Gerichtsschreiberin Aglaja Schinzel. (Bild: Erwin Lötscher)

Aglaja Schinzel, kann künstliche Intelligenz (KI) zu besseren Urteilen führen?
Diese Frage habe ich mir im Rahmen meiner Abschlussarbeit des CAS Judikative gestellt, und die Antwortet lautet: Theoretisch ja, aber wir sind noch nicht so weit. Die aktuell verfügbaren, allgemeinen Programme sind für die juristische Entscheidfindung nicht geeignet; wir müssen erst spezifische Anwendungen entwickeln. Allgemeine Modelle, also solche ohne domänenspezifische Infrastruktur, versagen bei juristischen Aufgaben. Forschungsergebnisse zeigen, dass domänenspezifische juristische Modelle Allzweck-LLMs übertreffen, selbst bei weniger Parametern.
 
Was bräuchte es, damit Sie KI sinnvoll für Ihre juristische Arbeit am Bundesverwaltungsgericht einsetzen könnten?
Ein eigenes, gutes Suchsystem – ein sogenanntes RAG (Retrieval-Augmented Generation), das auf eine interne Datenbank zugreifen kann, wäre ein guter Anfang für eine sinnvolle KI-Nutzung am Bundesverwaltungsgericht. Allerdings halluzinieren solche Systeme in beträchtlichem Umfang – die Überprüfung muss deshalb in menschlicher Hand bleiben. Idealerweise würde ein solches im Rahmen des laufenden Digitalisierungsprojekts realisiert. Ansonsten sehe ich bis anhin wenig Möglichkeiten für einen gewinnbringenden Einsatz am Gericht – von kleineren Anwendungen wie der Anonymisierung von Urteilen einmal abgesehen. Ich verwende generative KI eher für private Zwecke, etwa um Fragen meiner Kinder zu beantworten oder mir Rezepte und Anleitungen geben zu lassen.

Dann befürchten Sie nicht, dass KI Ihnen bald die Arbeit wegnimmt? 
Nein, da habe ich keine Angst. Ich habe schon versuchsweise Fragen in eine KI eingegeben, wenn ich Fallbeispiele oder Urteile gesucht habe. Die Antworten wurden mit grosser Sicherheit gegeben, waren zum Teil aber schlicht erfunden. So nannte die KI etwa Urteilsnummern, die gar nicht existierten. Die Forschung zeigt, dass KI-generierte rechtliche Erläuterungen auf den ersten Blick von sehr hoher Qualität zu sein scheinen, jedoch sachliche Ungenauigkeiten enthalten. Dies ist gefährlicher als offensichtliche Fehler, da es den menschlichen Instinkt zur Überprüfung umgeht. Insofern glaube ich nicht, dass sich unsere Arbeit, also die juristische Entscheidfindung, in naher Zukunft entscheidend verändern wird. Die Hoffnung ist natürlich, dass KI unsere Arbeit effizienter macht – mit den richtigen Werkzeugen. Im Moment stehen uns diese aber noch nicht zur Verfügung. 

Wo sehen Sie Chancen bei der Nutzung von KI in der Rechtsprechung?
Chancen sehe ich in der Überprüfung von Entwürfen. Nachdem ich ein Urteil verfasst habe, könnte mir die KI sagen, ob ich damit etwas Bestehendem widerspreche, und sie könnte meinen Entwurf kritisch hinterfragen. So könnte sie für uns Gerichtsschreibende, die wir häufig allein arbeiten, eine Art Spiegelung sein. 

«Bis anhin sehe ich wenig Möglichkeiten für einen gewinnbringenden Einsatz von KI am Gericht.»

Aglaja Schinzel

Und wo sehen Sie Risiken?
Risiken sehe ich diverse, schon allein im Suchsystem. Auch wenn dieses nur auf internen Daten basiert, besteht die Gefahr, dass etwa Referenzurteile nicht gefunden werden. Eine grosse Gefahr sehe ich auch im sogenannten Automation Bias: Menschen tendieren dazu, automatisierte Entscheidungen gegenüber menschlichen zu bevorzugen. Das führt dazu, dass man der Technik so sehr vertraut, dass man deren Ergebnis nicht mehr nachprüft. Ich persönlich würde in einem Urteil nicht einmal den Sachverhalt von einer KI zusammenfassen lassen. Meines Erachtens braucht es das menschliche Auge, um zu bewerten, was wichtig ist. Zudem schafft ein durch die KI erstellter Sachverhalt schon eine Voreingenommenheit. 

Ausserdem besteht auch das Risiko, dass die Interaktion zwischen KI und Richter/-in bzw. Gerichtsschreiber/-in Fehler und Voreingenommenheit verstärkt, indem sie die bestehenden Überzeugungen bekräftigt – die KI berücksichtigt selektiv Beweise, die mit der ursprünglichen Sichtweise der Betroffenen übereinstimmen, und schafft so einen Kreislauf der Bestätigungsvoreingenommenheit. KI kann die Relevanz anhand festgelegter rechtlicher Kriterien beurteilen. Sie ist jedoch nicht in der Lage, strategische Entscheidungen darüber zu treffen, welche Fakten zu Überzeugungszwecken hervorgehoben werden sollten. Denn das erfordert ein Verständnis für den narrativen Verlauf des Falles.

Sie sagen, ein durch die KI erstellter Sachverhalt schaffe eine Voreingenommenheit. Können Sie das erklären?
Wenn wir in der Rechtsprechung einen Fall bearbeiten, sollten wir zuerst die Akten lesen, bevor wir den Entscheid der Vorinstanz lesen. Machen wir es umgekehrt, besteht die Gefahr, dass wir dadurch schon voreingenommen sind. Dieselbe Gefahr sehe ich auch beim Einsatz von KI für die Sachverhalts-Erstellung. Wie soll die KI wissen, was wichtig ist? Ich vertraue dem menschlichen Urteilsvermögen mehr als dem maschinellen. Deshalb bin ich auch eine Verfechterin des richterlichen Ermessens – dieses darf nicht durch KI ersetzt werden. Man sieht es im Strafrecht: Es gibt keine exakte Tabelle, welche Straftat wie genau geahndet wird; es muss immer der Kontext mitberücksichtigt werden.

Was würden Sie sich in Bezug auf KI und Justiz wünschen?
Dass noch viel mehr Aufklärungs- und Sensibilisierungsarbeit geleistet wird. Ich beobachte, dass viele Leute sehr naiv sind, wenn es um die Nutzung von generativer KI geht. Dazu kommt die Problematik, wie die menschliche Wahrnehmung mit selbstbewusst klingenden automatisierten Ergebnissen interagiert; Automation Bias lässt sich in allen untersuchten Berufsfeldern beobachten – beispielsweise auch in der Luftfahrt, Medizin, im Finanz- und Personalwesen. Menschen tendieren dazu, alles zu glauben, was die Maschine hervorbringt, und vernachlässigen das kritische Hinterfragen. Die Forschung zeigt, dass der Automation Bias sich durch Training nicht überwinden lässt. Deshalb sollten eher KI-Systeme genutzt werden, die Informationen bereitstellen, anstatt Empfehlungen zu geben. Dabei sollte die Überprüfung in den Arbeitsablauf integriert und Strukturen zur Rechenschaftspflicht geschaffen werden.

Können Sie sich vorstellen, dass Urteile einmal vollständig von einer KI gefällt werden? Immerhin ist diese nie müde oder hungrig und hat keine Vorurteile.
Nein, das kann ich mir nicht vorstellen. Ich glaube auch nicht, dass ein KI-Urteil von den Betroffenen akzeptiert würde. Im Übrigen wird eine KI zwar nie müde oder hungrig, aber sie ist trotzdem auch voreingenommen; einerseits, weil sie mit unseren Daten arbeitet und die sich darin befindenden Voreingenommenheiten noch verstärken und umwandeln kann, andererseits weist sie wie gesagt Voreingenommenheiten auf, die wir nicht kennen. Dazu kommt die zahlenmässige Auswirkung: Während ein voreingenommener Richter ein paar hundert Fälle pro Jahr beeinflusst, kann ein voreingenommener Algorithmus sich auf Millionen von Fällen gleichzeitig auswirken. Ich bin überzeugt, dass ein menschlicher Input anders ist als ein KI-Input. Bei vollständig durch KI generierten Urteilen würde viel verloren gehen.

Aglaja Schinzel, KI und Rechtsprechung

Aglaja Schinzel

Aglaja Schinzel arbeitet seit Dezember 2018 als Gerichtsschreiberin in der Abteilung IV des Bundesverwaltungsgerichts. Es ist ihr zweiter Einsatz am BVGer, nachdem sie bereits zwischen 2011 und 2016 in der Abteilung V gearbeitet hat. Für ihre Abschlussarbeit im CAS Judikative im Jahr 2024 hat sich die Juristin, die mit ihrer Familie in Zürich lebt, mit der Frage befasst, ob KI zu besseren Urteilen führen kann.

More blog articles