Maschinen sind keine Menschen, doch über Chatbots sprechen viele, als wären diese ein “echtes” Gegenüber. Forscherinnen und Forscher lehnen blinden Technikglauben ab – und erklären, wie sinnvolle Nutzung aussehen kann.
Chatbots nicht zu stark vermenschlichen: Dazu rät die Informatikerin Katharina Anna Zweig. Sie selbst wolle sich “im Gespräch mit der Maschine nichts an- oder abgewöhnen, das meine Kommunikation mit Menschen verändert”, sagte Zweig im Gespräch mit der Katholischen Nachrichten-Agentur (KNA). Am Dienstag erscheint ihr Buch “Weiß die KI, dass sie nichts weiß?”. Die Autorin unterrichtet Sozioinformatik als Professorin an der RPTU Kaiserslautern-Landau.
Daher gehöre es für sie dazu, sich auch bei ChatGPT oder Perplexity für eine Auskunft zu bedanken, erklärte die Autorin. “Andererseits achte ich darauf, von der Maschine nie als ‘er’ oder ‘sie’ zu sprechen, als ob es ein denkendes Wesen wäre.” Von einer Software, einem Computer oder System zu sprechen, erinnere daran, “dass es ein Werkzeug bleibt, mit dem ich arbeiten kann”. Allerdings ließen Menschen sich stark von sogenannten intelligiblen Texturen beeinflussen – also Wortaneinanderreihungen, die sich wie Texte anfühlten. “Ich glaube, dass wir alle in außergewöhnlichen Situationen dafür empfänglich sind – gerade dann, wenn wir trauern oder einsam sind.”
Auch weitere Fachleute mahnen, nicht “blindem technischem Fortschrittsglauben” zu verfallen. Am Montagabend haben 16 Wissenschaftlerinnen und Wissenschaftler in Wien daher “Zehn Regeln für die Digitale Welt” veröffentlicht: Sie reichen von der Warnung, digitale Technik nicht zum Selbstzweck zu erheben, über das Gebot, Maschinen keine Menschlichkeit zuzuschreiben, bis hin zur Forderung, die Natur nicht für technischen Fortschritt zu zerstören. Weitere Punkte mahnen, Menschen nicht als bloße Datenobjekte zu behandeln, menschliche Potenziale zu bewahren und Machtkonzentrationen im Digitalbereich zu verhindern.
Der Anklang an die biblischen zehn Gebote sei kein Zufall, sagte der Theologe Johannes Hoff der Presseagentur Kathpress. Die Digitalisierung dürfe “nicht zum Götzen werden” – dafür sollten die zehn Regeln eine Orientierung bieten.
Informatikerin Zweig erklärte, im Alltag sei häufig zu hören: “Die KI tut dieses, die KI tut jenes”. Viele glaubten, dass hinter dem “Denken” von Chatbots bestimmte Arten von Prompts steckten, “also Texte, die die Maschine zum zielgerichteten Assoziieren bringen”. Tatsächlich produziere die Maschine bei solch klaren Vorgaben eher korrekte Antworten. Dies sei aber “kein Denken im menschlichen Sinn”, betonte die Expertin. Vielmehr seien die Bots darauf trainiert worden, “in einem Text das nächste, noch nicht geschriebene Wort zu erraten”.
Sie selbst nutze die Sprachassistenten für kreatives Brainstorming, wenn ihr Begriffe nicht einfielen oder für Anfragen, die sie überprüfen könne. Diese Möglichkeiten seien noch nicht das Ende dessen, was Künstliche Intelligenz (KI) ermöglichen werde. “Ich glaube, dass sich langfristig die Welt stark verändern wird – aber dazu bedarf es der menschlichen Gestaltung. Am Ende steht die Frage: Wie wollen wir als Menschen miteinander leben?”