Projekt C01: Gesundes Misstrauen in und durch Erklärungen

Systeme mit künstlicher Intelligenz (KI) machen Fehler: Die Gitarre im Raum wird als Mensch erkannt, die Bahnverbindung führt zu einem falschen Zielort oder das große, rote Feuerwehrauto wird von der KI übersehen. In diesen Situationen und vor allem bei Empfehlungen für Entscheidungen sollten Menschen der KI ein gesundes Misstrauen entgegenbringen. Die Projektmitglieder untersuchen das Konzept des Misstrauens aus einer psychologischen sowie einer technischen Sicht. In psychologischen Experimenten soll herausgefunden werden, ob es ein gesundes Misstrauen gibt und durch welche äußeren Variablen es gefördert werden könnte. Ein technisches Ziel ist, dass KI-Systeme auf mögliche Unstimmigkeiten zwischen Maschine und Mensch hinweisen und diese erklären können.

 

Forschungsgebiete: Informatik, Psychologie

Projektleitung

Prof Barbara Hammer

Sonderforschungsbereich Transregio 318

Mehr zur Person

Prof. Dr. Ingrid Scharlau

Sonderforschungsbereich Transregio 318

Mehr zur Person

Mitarbeiter*innen

Tobias Peters, M.Sc.

Sonderforschungsbereich Transregio 318

Mehr zur Person

Roelof Visser, MSc

Sonderforschungsbereich Transregio 318

Mehr zur Person

Hilfskräfte

Fritz Lange, Universität Paderborn

Michael Peter Neuss, Universität Paderborn

Pu­bli­ka­ti­o­nen

Gesundes Misstrauen gegenüber Erklärungen

T.M. Peters, I. Scharlau, in: C. Bermeitinger, W. Greve (Eds.), 52. Kongress Der Deutschen Gesellschaft Für Psychologie, Pabst Science Publisher, 2022.

The Importance of Distrust in AI

T.M. Peters, R.W. Visser, in: Communications in Computer and Information Science, Springer Nature Switzerland, Cham, 2023.

Alle Publikationen anzeigen