Normen in der sprachbasierten Mensch-KI-Interaktion

Da Fehlinformationen, Fake News und Verschwörungstheorien immer freier zirkulieren, schwindet das Vertrauen in Medien, Wissenschaft und Regierung. Diese Herausforderung wird sich noch weiter verstärken, da wir zunehmend mit und durch den Einsatz großer Sprachmodelle kommunizieren. Unser dreijähriges Forschungsprojekt zielt darauf ab, Prinzipien für eine verantwortungsvolle Kommunikation von LLMs zu entwickeln: philosophisch und empirisch fundierte Regeln, die festlegen, was LLMs sagen sollen und was nicht. Zu diesem Zweck wollen wir erforschen, was wir als Menschen im Gespräch mit KI erwarten, wie wir reagieren, wenn diese Erwartungen nicht erfüllt werden, und ob unsere Erwartungen und Reaktionen in verschiedenen Sprachen und Kulturen unterschiedlich ausfallen. Anschließend werden wir Leitlinien für die Gestaltung von KI-Systemen vorschlagen, die verantwortungsvoll und transparent kommunizieren. Zudem werden wir die geplanten, neuartigen Leitlinien gemeinsam mit Industriepartnern erproben, die sprachbasierte KI- Anwendungen anbieten. Das Projekt wird durchgeführt von Prof. Markus Kneer (Projektleiter) der Universität Graz, PD Dr. Markus Christen (PI) der Universität Zürich, Prof. Mihaela Constantinescu (PI) der Universität Bukarest und Prof. Izabela Skoczen (PI) der Jagiellonen-Universität. Polaris News, geleitet von dem preisgekrönten Journalisten Hannes Grassegger, ist ein zentraler Kooperationspartner.