Die Synthesegruppe Unpacking Concepts (Begriffsklärung) befasst sich mit für den TRR zentralen Begriffen Konzepten und ihren Auswirkungen auf die XAI-Forschung. Ihr Ansatz besteht darin, Veröffentlichungen und andere Dokumente, die in der XAI-Gemeinschaft häufig zitiert werden, analytisch zu untersuchen, um (meist scheinbar selbstverständliche) begriffliche Festlegungen. Das Ziel dieser Klärung ist es, dass die Forscher*innen ein größeres Bewusstsein für die Implikationen, historischen Lasten und den Kontext wissenschaftlicher Konzepte entwickeln. Das erste Projekt dieser Gruppe war eine Analyse des Begriffs „user needs“ oder „explanation needs“. Derzeit arbeitet die Gruppe an einer kritischen Analyse des Begriffs „distrust“ (Misstrauen) und plant eine Auseinandersetzung mit dem Begriff Erklärbarkeit, wie er im XAI-Projekt der DARPA geprägt und verwendet wurde, insbesondere in deren Nutzer*innenstudien.

– Beispiel: „User needs“ –

Obwohl der Begriff needs (Bedürfnisse) in der technischen Forschung zu erklärbarer KI häufig verwendet wird, gab es hier bisher nur wenige theoretische Überlegungen zu diesem Konzept und seinen Implikationen. Angesichts der theoretischen Geschichte des Konzepts in Psychologie, Wirtschaft und Sozialphilosophie sind explanations needs allerdings kontraintuitiv. In der Psychologie sind Bedürfnisse in der Regel etwas, dem die Menschen unterworfen sind, das über sie kommt und (teilweise) die Kontrolle über die Handlungsfähigkeit übernimmt, wie im Fall physiologischer Grundbedürfnisse. In den Wirtschaftswissenschaften wird primär aufgezeigt wird, wie Bedürfnisse im Interesse von Wirtschaftsakteuren geschaffen werden. Aus sozial philosophischer Perspektive zeigt sich, dass Need in der Regel von außen attribuiert werden, d.h. – völlig im Gegensatz zu ihrer Verwendung im technischen Kontext – externe Zuschreibungen sind. In diesem Sinn werden sie derzeit zum Beispiel auch von großen Tech-Unternehmen verwendet, die ihre Services als passend für die unterstellten needs ihrer user anpreisen. Nach unserem Verständnis würde das Konzept eines explanation need in keine dieser theoretischen Traditionen passen. Darüber hinaus ist XAI oft eng mit der Idee der Befähigung von Menschen und ihrer Handlungsfähigkeit verbunden. Aber ist ein Konzept, das den Menschen nicht als Akteur, sondern am Ende als Spielball externer Kräfte betrachtet, wirklich ein guter Verbündeter, um diese Verbindung zu stärken?

A05, B06, C01, C04