Die Forschungsgruppe „Human-Centric Explainable AI“, die von Dr. David Johnson geleitet wird, steht mit ihrem Fokus auf Ko-Konstruktion in direktem Zusammenhang mit dem TRR. Ihr Ziel ist es, besser zu verstehen, wie Menschen Erklärungen von KI-gestützten Entscheidungssystemen in sensiblen Situationen – wie bei der Beurteilung der psychischen Gesundheit – aufnehmen. Dabei untersucht die Gruppe, welche Arten von Erklärungen und Interaktionen geeignet sind, um übermäßiges Vertrauen in ungenaue oder unzuverlässige KI-Empfehlungen zu vermeiden.

Die Gruppe möchte XAI-Werkzeuge und Interaktionen so gestalten, dass Nutzer*innen aktiv in den Prozess eingebunden werden. Zudem führt sie umfassende Tests durch, um herauszufinden, wie Menschen mit solchen Erklärungen umgehen. Mit diesen Erkenntnissen sollen neue und verbesserte KI-gestützte Entscheidungssysteme entwickelt werden, die bei der Bewertung psychischer Gesundheit und anderen realen Herausforderungen eingesetzt werden können.

Um dieses Ziel zu erreichen, arbeitet die Gruppe interdisziplinär. Sie verbindet Ansätze aus der Informatik, Psychologie und Mensch-Computer-Interaktion, um alle wichtigen Aspekte der Forschung abzudecken.