Theologe: Letztverantwortung liegt beim Menschen statt bei KI
Es war die erste Tagung in Deutschland zur Frage, was christliche und islamische Theologie zur KI-Revolution sagen, etwa im Bereich der Medizin. Fazit: KI-Systeme können sehr viel. Aber: „Sie verantworten keine Befunde.“
Künstliche Intelligenz (KI) durchdringt immer mehr Lebensbereiche. Und wirft ethische Fragen auf. Beispielsweise in der Medizin, etwa bei der Diagnosefindung beim Radiologen. Von Sonntag bis Dienstag fand in Stuttgart-Hohenheim eine Tagung zu „christlicher und islamischer Theologie angesichts digitaler Transformation“ statt. Es war die erste Konferenz zu dieser interreligiösen Fragestellung in Deutschland, wie Christian Ströbele von der Akademie der Diözese Rottenburg-Stuttgart betonte.
Der katholische Moraltheologe Alexis Fritz sprach über einen Anwendungsbereich, in dem der Einsatz von KI-Systemen schon teilweise Realität ist: die Bildauswertung und Diagnose beim Radiologen. Das Potenzial sei hier „dermaßen groß, dass die Anwendung von KI-Systemen bald zur ärztlichen Sorgfaltspflicht zählen wird“, sagte Fritz voraus. Radiologen durchleuchten Skelett, Herz oder Lunge mittels Röntgengeräten oder Magnetresonanztomographen (MRT). „In Zukunft handeln Ärzte mit Vorsatz fahrlässig, wenn sie keine KI-Systeme nutzen“, sagte Fritz. „KI-Systeme werden zum medizinischen Standard“, betonte der Professor für Moraltheologie an der Katholischen Universität Eichstätt-Ingolstadt.
Doch welche Autorität soll KI-Systemen zugesprochen werden? In der bisherigen klinischen Praxis laute der Grundsatz: „Nur jemand, der etwas weiß, hat auch etwas zu sagen.“ Wissen ist für Ärzte Macht. „Doch der Einsatz von KI-Systemen erschüttert die bestehende Wissens- und Machtstruktur“, sagte Fritz (47). KI-Systeme gewännen dort an Autorität, wo sie statistisch-nachweislich zu einer besseren Bildauswertung und Diagnose führten. Und ihre Performance lasse sich im direkten Vergleich zu Fachärzten durchaus sehen. „Gleichzeitig verantworten KI-Systeme keine Befunde“, mahnte der Moraltheologe.
Daher brauche es immer Menschen als Letztverantwortliche, die die Ergebnisse der KI-Systeme kontrollieren und einordnen müssten. Der Arzt müsse stets auch ohne KI fähig sein, zu einer professionellen, richtigen Diagnose zu kommen. „Das ist so wie Autofahren mit dem Navi. Manchmal muss man als Autofahrer eine andere Straße nehmen als die, die das Navi einem vorschlägt.“ Die Letztverantwortung liege „immer beim Menschen, nie bei der KI“, betonte der Moraltheologe.
Klar müsse auch sein, dass es keine Garantie auf eine richtige Diagnose gebe. Es dürfe „nicht so weit kommen, dass Ärzte aus Angst vor Sanktionen entweder KI lieber gar nicht nutzen oder aber sich ganz auf KI verlassen und stattdessen ihren eigenen Intuitionen und Kompetenzen nicht mehr trauen“.
Die islamische Theologin Mira Sievers sagte der Katholischen Nachrichten-Agentur (KNA) am Rande der Tagung, der Islam lehne den Einsatz von KI nicht grundsätzlich ab. „Man kann nicht sagen: Aus Sicht des Islams ist KI halal oder haram (erlaubt oder verboten).“ Wichtig sei die Betrachtung konkreter Anwendungsfälle, sagte die Juniorprofessorin an der Berliner Humboldt-Universität. So sei etwa Privatheit im Islam ein sehr hoher Wert. Würden aber zum Beispiel für große Sprachmodelle wie ChatGPT oder Gemini sehr persönliche Daten herangezogen, sei dies kritisch zu sehen.
Auch die mit modernster Technik ausgestatteten muslimischen Gebetszeiten-Apps hätten ihre Kehrseiten. „Es gibt Computerprogramme, die muslimische Gebets- und Fastenzeiten mit einer großen Exaktheit berechnen“ – je nach der Region, in der man sich befindet. Die Zeiten variierten dann aber je nach Methode um mehrere Minuten – ob man etwa die Berechnungsmethode der türkischen Religionsbehörde Dyanet oder die der Islamische Weltliga (Saudi-Arabien) nutze. In der Praxis führe das dazu, dass man zwei Uhrzeiten-Werte bekomme, „die miteinander in Konkurrenz geraten“, so Sievers (32). „Der Nutzen der größeren Exaktheit kann damit zum Verlust von Gemeinschaft führen.“ Im Islam sei jedoch die Gemeinschaft ein hoher Wert – wenn etwa die Rede davon sei, dass die Gläubigen „wie ein Körper“ seien.