Systeme mit künstlicher Intelligenz (KI) machen Fehler: Die Gitarre im Raum wird als Mensch erkannt, die Bahnverbindung führt zu einem falschen Zielort oder das große, rote Feuerwehrauto wird von der KI übersehen. In diesen Situationen und vor allem bei Empfehlungen für Entscheidungen sollten Menschen der KI ein gesundes Misstrauen entgegenbringen. Die Projektmitglieder untersuchen das Konzept des Misstrauens aus einer psychologischen sowie einer technischen Sicht. In psychologischen Experimenten soll herausgefunden werden, ob es ein gesundes Misstrauen gibt und durch welche äußeren Variablen es gefördert werden könnte. Ein technisches Ziel ist, dass KI-Systeme auf mögliche Unstimmigkeiten zwischen Maschine und Mensch hinweisen und diese erklären können.

Forschungsgebiete: Informatik, Psychologie