Unabhängige Forschungsgruppe: Human-Centric Explainable AI

Die von Dr. David Johnson geleitete Forschungsgruppe „Human-Centric Explainable AI“ steht mit ihrem Fokus auf Ko-Konstruktion in direktem Zusammenhang mit dem TRR. Ziel der Gruppe ist es, Theorien darüber zu entwickeln, wie Menschen Erklärungen verarbeiten, die sie von KI-gestützten Entscheidungsfindungssystemen in hochsensiblen Situationen erhalten, z. B. bei der Beurteilung der psychischen Gesundheit, und herauszufinden, welche Arten von Erklärungen und Interaktionen am besten geeignet sind, um ein übermäßiges Vertrauen in KI-Empfehlungen zu verringern, die nicht vertrauenswürdig oder genau sind. Ziel ist es, die Gestaltung von XAI-basierten Werkzeugen und Interaktionen zu verbessern, indem die Nutzer*innen in den Gestaltungsprozess einbezogen werden und umfassende Evaluierungen durchzuführen, um besser zu verstehen, wie Menschen Erklärungen nutzen. Mit diesem Wissen sollen neue und verbesserte interaktive KI-gestützte Entscheidungsfindungssysteme für die Bewertung psychischer Gesundheit und andere reale Probleme entwickelt werden. Um sicherzustellen, dass die Forschung alle wichtigen Aspekte zur Erreichung dieser Ziele abdeckt, verfolgt die Gruppe einen interdisziplinären Ansatz, der Informatik, Psychologie und Mensch-Computer-Interaktion umfasst.

Forschungsgebiete

Informatik, Psychologie

Projektleitung

Dr. David Johnson

Sonderforschungsbereich Transregio 318

Mehr zur Person

Mitarbeiter*innen

Seham Nassr, Universität Bielefeld