Projekt C01: Gesundes Misstrauen in und durch Erklärungen
Systeme mit künstlicher Intelligenz (KI) machen Fehler: Die Gitarre im Raum wird als Mensch erkannt, die Bahnverbindung führt zu einem falschen Zielort oder das große, rote Feuerwehrauto wird von der KI übersehen. In diesen Situationen und vor allem bei Empfehlungen für Entscheidungen sollten Menschen der KI ein gesundes Misstrauen entgegenbringen. Die Projektmitglieder untersuchen das Konzept des Misstrauens aus einer psychologischen sowie einer technischen Sicht. In psychologischen Experimenten soll herausgefunden werden, ob es ein gesundes Misstrauen gibt und durch welche äußeren Variablen es gefördert werden könnte. Ein technisches Ziel ist, dass KI-Systeme auf mögliche Unstimmigkeiten zwischen Maschine und Mensch hinweisen und diese erklären können.
Forschungsgebiete: Informatik, Psychologie
Hilfskräfte
Konstantin Gubenko, Universität Paderborn
Fritz Lange, Universität Paderborn
Michael Peter Neuss, Universität Paderborn
Publikationen
T.M. Peters, R.W. Visser, in: Communications in Computer and Information Science, Springer Nature Switzerland, Cham, 2023.
Alle Publikationen anzeigen