Conference Explaining Machines

1. TRR 318 Konferenz Explaining Machines

Seit 2022 veranstaltet der TRR 318 jährlich eine internationale wissenschaftliche Konferenz. Die erste TRR 318 Konferenz fand 2022 unter dem Titel „Explaining Machines“ an der Universität Bielefeld statt und thematisierte die sozialwissenschaftliche Perspektive zu Erklärbarer KI (Englisch: Explainable Artificial Intelligence; kurz: XAI)

Eine der aktuell im Fokus stehenden Forschungsfragen lautet, wie verständliche Erklärungen der dahinterliegenden maschinellen Prozesse erreicht werden können: Sollen Menschen in der Lage sein, zu erklären, wie Maschinen funktionieren, oder sollten die Maschinen selbst lernen, sich zu erklären?

„Die Zweideutigkeit im Titel unserer Konferenz ‚Explaining Machines‘ drückt verschiedene Möglichkeiten aus: Maschinen erklären sich selbst oder Menschen erklären Maschinen – oder vielleicht beides gleichzeitig“ - Professorin Dr. Elena Esposito (Projekt B01)

Die erste Konferenz fand im Juni 2022 an der Universität Bielefeld statt und setzte den Schwerpunkt auf die sozialwissenschaftliche Forschung zu erklärbarer künstlicher Intelligenz:

„Wenn das Erklären von Maschinen eine soziale und politische Wirkung haben soll, reicht es nicht aus, dass die Erklärungen für Informatiker*innen verständlich sind. In die Erklärprozesse müssen unterschiedlich sozial situierte Menschen einbezogen werden – von Mediziner*innen über Rentner*innen zu Schüler*innen." - Professor Dr. Tobias Matzner (Projekt B03)

In den kommenden Jahren sind weitere Fachkonferenzen geplant, die das Konzept der Erklärbarkeit aus unterschiedlichen wissenschaftlichen Disziplinen zum Thema haben.

Abstract of the 1. TRR 318 Conference Explaining Machines 2022

Today's most advanced machine learning algorithms are often incomprehensible to humans, including those who designed them. How can we achieve an understandable explanation of their processes? This is currently one of the crucial questions for artificial intelligence projects. Should we be able to explain how machines work, or should the machines learn to explain themselves? The ambiguity in the title of our conference contains the coexistence of two possibilities: machines explaining themselves or humans explaining machines – or maybe both at the same time.

If explaining machines should have a social and political impact, it is not enough that they are understandable to computer science experts. Explaining machines needs to include different socially situated and diverse humans. The issues are complex and involve multiple skills. Computer scientists who design machines must collaborate with social scientists who study understanding (and the lack thereof), the process of explanation, and their conditions. Now more than ever, the challenge of artificial intelligence projects is as much social as technological, and our conference addresses this by stimulating the debate, presenting the variety of perspectives and insights developed by the social sciences in the context of XAI.