Algorithmische Ansätze wie das maschinelle Lernen werden immer komplexer. Diese zunehmende Undurchsichtigkeit erschwert es, die von Künstlicher Intelligenz (KI) vorgeschlagenen Entscheidungen nachzuvollziehen und zu akzeptieren. Als Antwort auf diese gesellschaftliche Herausforderung haben Informatiker*innen begonnen, selbsterklärende Algorithmen zu entwickeln, die Erklärungen auf intelligente Weise bereitstellen (eXplainable Artificial Intelligence, XAI). Allerdings interagieren diese Programme bislang nur eingeschränkt mit Menschen und berücksichtigen weder das Informationsbedürfnis der Adressat*innen noch den jeweiligen Kontext. Dadurch entsteht das Risiko, Erklärungen zu erzeugen, die nicht verstanden werden.

Die Mitglieder des Transregio (TRR) 318 stellen diese Sichtweise infrage und verfolgen eine Ko-Konstruktion von Erklärungen: Erklärungsempfänger*innen sollen aktiv am Erklärprozess teilnehmen, indem sie dessen Ziel und Verlauf mitgestalten.

In der ersten Förderphase (2021-2025) haben die rund 60 Wissenschaftler*innen theoretische und empirische Grundlagenforschung betrieben, um Erklärprozesse sowie die Einbindung der Erklärungsempfänger*innen in Mensch-Mensch sowie Mensch-KI-Interaktionen zu verstehen. Die Ergebnisse führten zu neuen Einsichten darüber, wie Erklärdialoge in Alltagssituationen strukturiert sind, wie sich Verständnis im Gespräch entwickelt und wie KI-Erklärungen flexibel angepasst werden können. Auf dieser Basis entstanden erste XAI-Systeme, die Nutzer*innen aktiv einbeziehen und den Erklärprozess schrittweise ko-konstruktiv anpassen. Darüber hinaus wurde untersucht, ob und in welchen Situationen Nutzer*innen Wert auf das Verständnis von Funktionsweisen und Ergebnissen von KI legen. Die Resultate zeigen, dass Erklärbedürfnisse vielfältig sind und sich sogar innerhalb einer einzigen Interaktion dynamisch ändern können.

Für die zweite Förderphase (2026-2029/1) rückt die Relevanz von Erklärungen im situativen Kontext in den Mittelpunkt – nicht nur mit Blick auf Erwartungen der Nutzer*innen, sondern auch hinsichtlich ihrer beruflichen Rollen, normativer Vorgaben, der spezifischen Aufgabenstellung, vorangegangener Interaktionen und weiterer Einflussfaktoren. Daher sollen erklärende Algorithmen künftig stärker in die Lage versetzt werden, gemeinsam mit Nutzer*innen relevante Kontexte zu konstruieren und die hierfür entscheidenden Faktoren zu bestimmen. Diese Ko-Konstruktion des Kontexts erfordert ein expliziteres, detaillierteres und stärker interaktionsorientiertes Rahmenwerk als bisher im Bereich der XAI üblich.

Mit dieser Fokussierung auf die aktive Einbindung der Nutzer*innen und die sozialen Aspekte des Erklärens schafft der TRR 318 die Grundlage für ein Paradigma der sozialen XAI (sXAI). Der interaktive sXAI-Ansatz reduziert die Belastung der Nutzer*innen, indem relevante kontextuelle Faktoren direkt aus der Interaktion abgeleitet werden. Der Kontext selbst wird so zu einem ko-konstruierten Bestandteil der Interaktion.

Die Mechanismen von Erklärbarkeit, Erklärungen und Kontext untersuchen die 22 Projektleiter*innen und rund 40 wissenschaftlichen Mitarbeiter*innen in interdisziplinärer Zusammenarbeit: Sie forschen in den Bereichen Informatik, Linguistik, Medienwissenschaften, Philosophie, Psychologie, Soziologie und Wirtschaftswissenschaften.

Die Ergebnisse des TRR 318 leisten einen Beitrag zur Entwicklung von

• einem multidisziplinären Verständnis des Erklärprozesses, der eng mit Verstehensprozessen und relevanten Kontextfaktoren verknüpft ist,
• Computermodellen und komplexen KI-Systemen, die ihre Erklärungen effizient und adressat*innengerecht im aktuellen Kontext generieren und
• einer Theorie der Erklärungen als soziale Praktiken, die die Erwartungen und Rollen der Kommunikationspartner*innen berücksichtigt.

Die Forschungsbereiche des TRR 318 gliedern sich in

A „Explaining process“ / „Erklärprozess“, 
B „Explanation as social practice“ / „Erklären als soziale Praktik“ und
 C „Representing and computing explanations“ / „Darstellung und Berechnung von Erklärungen“. 

Die drei Bereiche wiederum teilen sich in interdisziplinäre Teilprojekte auf.

Übergreifend schafft das INF-Projekt eine Forschungsstruktur, das WIKO-Projekt fördert den Austausch mit der Öffentlichkeit, das Z-Projekt verantwortet Organisation und Finanzen und das RTG-Projekt die Qualifizierung von Doktorand*innen und Postdocs.

Zusätzlich haben sich die Wissenschaftler*innen des TRR 318 in Synthesegruppen zusammengeschlossen, um zentrale und aktuelle Forschungsthemen gemeinsam aus unterschiedlichen disziplinären Perspektiven heraus zu bearbeiten.