Sachsens Ministerin benennt rote Linien für KI-Einsatz in Justiz

Dass Künstliche Intelligenz (KI) darüber entscheidet, wie lange jemand ins Gefängnis muss, ist für Katja Meier ein no-go. Auch eine KI-Videoüberwachung von stark suizidgefährdeten Häftlingen ist ihr zu risikoreich.

Landesjustizministerin Katja Meier (Grüne) hat den Einsatz von Künstlicher Intelligenz (KI) in der sächsischen Justiz für bestimmte Bereiche klar ausgeschlossen. „Ganz sicher wird KI nicht Kernaufgaben von Richtern und Staatsanwälten übernehmen. Es müssen immer Menschen sein, die Urteile über andere Menschen fällen“, sagte sie am Donnerstag im Interview der Katholischen Nachrichten-Agentur (KNA) in Dresden.

Sie verwies auf das Beispiel USA, wo in der Justiz KI eingesetzt werde, um ein Strafmaß zu ermitteln oder um abzuschätzen, wie hoch die Wahrscheinlichkeit ist, dass jemand rückfällig wird. „Studien haben aber gezeigt, dass dabei oftmals ‚people of colour‘, also schwarze Menschen, sehr stark diskriminiert werden“, so Meier. „Weil KI-Anwendungen immer nur so klug sind wie die Daten, mit denen sie gefüttert wurden, und sich mitunter auch unbewusste Vorurteile früherer Entscheidungen mittels KI fortsetzen und vervielfältigen.“

Auch einen KI-Einsatz bei der Videoüberwachung von suizidgefährdeten Menschen in besonders gesicherten Hafträumen im Strafvollzug schließt die Ministerin aus: „Ich will nicht, dass es zu einem Suizid kommt, weil eine KI nicht richtig angeschlagen oder Alarm gegeben hat. Das kann man nicht verantworten. Das ist meines Erachtens zu risikoreich.“

Das Kabinett des Freistaats hatte vergangene Woche als erstes Bundesland die Einführung eines Beirats für digitale Ethik beschlossen. Ab der kommenden Legislaturperiode im Herbst soll er die Regierung beim Einsatz von Künstlicher Intelligenz (KI) beraten. Dem Gremium sollen sieben Expertinnen und Experten aus den Bereichen Ethik, Wirtschaft, Technologie, Medien und den Rechtswissenschaften angehören.