Justizministerin: KI-Ethikbeirat für passgenaue Antworten

Damit nimmt Sachsen eine bundesweite Vorreiterrolle ein: Die Landesregierung will einen Expertenbeirat für digitale Ethik einführen. Ministerin Katja Meier benennt auch rote Linien für den Einsatz etwa in der Justiz.

Sachsens Landeskabinett hat als erstes Bundesland die Einführung eines Beirats für digitale Ethik beschlossen. Ab der kommenden Legislaturperiode im Herbst soll er die Regierung beim Einsatz von Künstlicher Intelligenz (KI) beraten. Die Katholische Nachrichten-Agentur (KNA) sprach am Donnerstag mit Landesjustizministerin Katja Meier (Grüne) über Pläne, Erwartungen und Herausforderungen. Dabei benannte sie auch Justizbereiche, in denen aus ihrer Sicht ein KI-Einsatz absolut tabu ist.

KNA: Frau Ministerin Meier, warum braucht KI ethische Leitlinien?

Meier: Der Einsatz von KI birgt erheblichen Nutzen in sich, für die Wirtschaft, die Verwaltung und auch für jeden Einzelnen. Gleichzeitig kann sie aber auch negative, mitunter schwer absehbare Auswirkungen haben. Es muss daher gewährleistet sein, dass die Entwicklung, Einführung und Nutzung von KI-Systemen Anforderungen wie Transparenz, Nichtdiskriminierung und Grundrechtskonformität erfüllt. Denn Vertrauen in die KI ist der Hauptfaktor für ihre Akzeptanz in der Gesellschaft.

KNA: Haben Sie ein Beispiel für Diskriminierung durch KI?

Meier: In den USA wird in der Justiz KI auch eingesetzt, um ein Strafmaß zu ermitteln oder um abzuschätzen, wie hoch die Wahrscheinlichkeit ist, dass jemand rückfällig wird. Sie liefert Antworten bei Fragen, wie lange jemand in U-Haft muss oder ob er frühzeitig entlassen werden kann. Studien haben aber gezeigt, dass dabei oftmals „people of colour“, also schwarze Menschen, sehr stark diskriminiert werden. Weil KI-Anwendungen immer nur so klug sind wie die Daten, mit denen sie gefüttert wurden, und sich mitunter auch unbewusste Vorurteile früherer Entscheidungen mittels KI fortsetzen und vervielfältigen.

KNA: Was war der Anstoß für den bundesweiten Vorstoß, in Sachsen einen KI-Ethikbeirat zu gründen?

Meier: Wir sehen uns als Regierung bei diesem Thema in der Verantwortung, zumal wir als Staat ja auch KI anwenden wollen, um etwa Verwaltung effizienter zu gestalten. Wir kommen an dem Thema nicht vorbei, KI wird uns begleiten, ob wir wollen oder nicht. Darum haben wir als Landesregierung 2021 eine KI-Strategie vereinbart, um die Prozesse zu steuern und die Herausforderungen frühzeitig anzugehen. Dabei spielte Ethik immer eine Rolle. Im vergangenen Jahr haben dann die beiden Professorinnen Anne Lauber-Rönsberg, eine Juristin, und Birte Platow, eine Theologin, ein konkretes Konzept vorgestellt, wie ein Beirat für digitale Ethik im Freistaat umgesetzt werden könnte.

KNA: Das EU-Parlament hat im März grünes Licht für den „AI Act“ gegeben, also einen Rechtsrahmen für KI-Anwendungen. Reicht der nicht aus?

Meier: Als Landesregierung versprechen wir uns von dem Expertengremium des Beirats, dass wir möglichst konkrete und passgenaue Antworten für unsere staatlichen KI-Einsatzbereiche hier in Sachsen bekommen.

KNA: An welche Bereiche denken Sie konkret?

Meier: Der Einsatz von ChatGTP an Schulen und Hochschulen zum Beispiel. Das ist ein riesiges Thema. Wie formulieren wir Leistungsanforderungen, wenn Hausarbeiten damit geschrieben werden können? In der Justiz geht es etwa um Fragen von KI-gesteuertem Transkribieren von Audio-Aussagen in Strafverfahren – und der damit verbundenen Genauigkeit. Auch Massenverfahren wie etwa beim VW-Diesel-Skandal können durch KI vereinfacht werden. Bevor wir aber solche Anwendungen entwickeln lassen und einsetzen, wollen wir die Expertise vom Beirat einholen.

KNA: Aus welchen Bereichen sollen die sieben Mitglieder des Beirats denn kommen?

Meier: Wir wollen ein unabhängiges Gremium, mit Expertinnen und Experten aus den Bereichen Ethik, Wirtschaft, Technologie, Medien und natürlich aus den Rechtswissenschaften. Auch die zivilgesellschaftliche Perspektive muss eine Rolle spielen. Es ist enorm wichtig, dass wir in der Bevölkerung eine Akzeptanz für den Einsatz künstlicher Intelligenz haben und stärken. Da gibt es ja durchaus Ängste, berechtigte Ängste. Wir müssen deutlich machen, dass für uns als Regierung ein verantwortungsvoller und transparenter KI-Einsatz Priorität hat.

KNA: Gibt es Bereiche, wo Sie aktuell einen staatlichen KI-Einsatz ausschließen?

Meier: Ganz sicher wird KI nicht Kernaufgaben von Richtern und Staatsanwälten übernehmen. Es müssen immer Menschen sein, die Urteile über andere Menschen fällen. Auch einen KI-Einsatz bei der Videoüberwachung von suizidgefährdeten Menschen in besonders gesicherten Hafträumen im Strafvollzug schließe ich aus. Ich will nicht, dass es zu einem Suizid kommt, weil eine KI nicht richtig angeschlagen oder Alarm gegeben hat. Das kann man nicht verantworten. Das ist meines Erachtens zu risikoreich.