Ein Projekt der Universität Bayreuth zur Anwendung von Künstlicher Intelligenz (KI) in Strafsachen wird mit einer Million Euro vom Bayerischen Forschungsinstitut für Digitale Transformation (bidt) gefördert. Das Projekt „For the Greater Good? Deepfakes in der Strafverfolgung“ beziehe Strafrecht und Strafverfolgung, Wirtschaftsinformatik und Philosophie ein, teilte die Universität Bayreuth am Montag mit. „In diesem Projekt beschäftigen wir uns mit der Frage, unter welchen Umständen genau der Einsatz von Deepfakes in der Strafverfolgung möglicherweise legitimiert ist, und auch welche Auswirkungen das auf andere Bereiche der Gesellschaft hat“, sagte Lena Kästner, Professorin für Philosophie, Informatik und KI der Uni Bayreuth laut Mitteilung. Man wolle Leitlinien für den Einsatz und die Kennzeichnung von Deepfakes entwickeln, sagte Kästner.
Deepfakes sind mithilfe von KI erstellte Video-, Bild- und Audioaufnahmen, die authentisch wirken. Die Manipulationen sind häufig so geschickt, dass man den Aufnahmen kaum anhört oder ansieht, dass es sich um Fälschungen handelt. Betrüger setzten etwa am Telefon Stimmklone beim sogenannten Enkeltrick ein, sagte Kästner. „Es ist wichtig, kriminelle irreführende oder manipulative Praktiken durch Deepfakes zu unterbinden. Gleichzeitig kann es aber auch nicht sein, dass Strafverfolgungsbehörden Kriminellen nichts entgegenzusetzen haben, weil sie nicht auf dem Stand der Technik arbeiten dürfen.“ Hier gelte es, eine rechtssichere Balance zu finden.
Deepfakes stellten die Strafverfolgung und die Strafgerichte vor große Herausforderungen, sagte Christian Rückert vom Lehrstuhl für Strafrecht, Strafprozessrecht und IT-Strafrecht der Uni Bayreuth. Angeklagte könnten etwa künftig vor Gericht einwenden, auf dem Video seien gar nicht sie zu sehen, es handle sich um einen Deepfake. KI-generierte Deepfakes böten aber auch ein großes Potential für die Strafverfolgung. „Wir untersuchen deshalb auch, ob und wie Strafverfolgungsbehörden selbst Deepfakes für verdeckte Ermittlungen einsetzen dürfen“, sagte Rückert.
Sich Deepfakes in der Strafverfolgung systematisch juristisch, philosophisch und technisch anzuschauen sei eine entscheidende Grundlagenarbeit für die Zukunft, sagte Niklas Kühl, Professor für Wirtschaftsinformatik und humanzentrische Künstliche Intelligenz der Uni Bayreuth.
Kästner, Rückert und Kühl werden nun den Angaben zufolge gemeinsam mit Staatsanwältinnen und Staatsanwälten der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen (ZAC NRW) drei Jahre lang untersuchen, unter welchen Umständen und in welchem Maße der Einsatz von Deepfakes gesellschaftlich akzeptabel ist.
Das bidt fördert ab 2025 zehn Forschungsvorhaben zu Fragen rund um Vertrauen und KI. Es ist ein Institut der Bayerischen Akademie der Wissenschaften. (00/0175/20.01.2025)