Risiko oder Hype? Diskurs über die Auswirkungen von KI-Videos
Aus Textzeilen werden ganze Videos. Mit Sora hat OpenAI nun ein neues KI-Tool vorgestellt. Die politische Kommunikation könne dadurch verändert werden, mahnen einige Forscher. Andere vertrauen auf Nutzerkompetenz.
Neue Programme, die Künstlicher Intelligenz (KI) ganze Videos erzeugen, können aus Forschersicht erheblichen Einfluss auf die politische Kommunikation haben. „Diese Technologien ermöglichen die Produktion hochrealistischer Inhalte, die kaum von authentischen zu unterscheiden sind, was die Gefahr von Desinformation und manipulierten Nachrichten erhöht“, erklärte die Jenaer Kommunikationswissenschaftlerin Edda Humbrecht am Donnerstag.
Insbesondere vor Wahlen könnten die Inhalte in Sozialen Medien und auf Internetplattformen so genutzt werden, „um falsche Narrative zu verstärken oder politische Gegner in ein schlechtes Licht zu rücken“, so Humbrecht. Forschungen zeigten, dass es für die Menschen immer schwieriger werde, echte von KI-generierten Inhalten zu unterscheiden.
Die Wissenschaftlerin fordert deswegen Bildungsinitiativen, die Nachrichtenkompetenz fördern sowie ein Bewusstsein für die Erkennungsmerkmale künstlich erzeugter Inhalte schärfen sollen. Ebenso brauche es Kampagnen, die über die Risiken von Desinformation aufklären.
Der Leipziger Forscher Christian Hoffmann mahnte hingegen Zurückhaltung im Diskurs um die Gefahren von KI an. „Wenn nun allzu große Angst vor manipulierten Inhalten entsteht, könnte das dazu führen, dass Wähler auch wahren Inhalten aus seriösen Quellen weniger trauen. Dann wäre der Schaden eines alarmistischen Diskurses größer als der Nutzen“, sagte der Politikwissenschaftler.
Generell dürfe die Gefahr, die von KI-generierten Bildern vor Wahlen ausgehe, nicht überschätzt werden. „Es scheint insgesamt bisher unwahrscheinlich, dass ein Deepfake einen Wähler wirklich zum Umdenken bewegen könnte. Wahrscheinlicher ist, dass ein Deepfake ‚akzeptiert‘ wird, weil es ein bestehendes Weltbild bestätigt – und somit eine bestehende Wahlabsicht unterstützt.“ Dementsprechend sei er auch Aufklärungs-Kampagnen gegenüber skeptisch, erklärte Hoffmann. „Die Wahrscheinlichkeit, dass ein Wähler über ein glaubwürdiges politisches Deepfake stolpert, ist so gering, dass eine solche Kampagne unnötig Verunsicherung auslösen könnte.“ Auch ein generelles Verbot für KI-generierte Videos auf digitalen Plattformen lehne er ab.
Vergangene Woche hat das US-Unternehmen OpenAI, das auch den KI-Chatbot ChatGPT entwickelt hat, ein neues Programm mit dem Namen Sora vorgestellt. Mit dem Tool werden aus Text-Befehlen ganze Videos generiert. Derzeit ist die Anwendung noch nicht für Endnutzer verfügbar.