Erklärungen gemeinsam entwickeln

Algorithmische Ansätze wie das maschinelle Lernen werden immer komplexer. Die Undurchsichtigkeit erschwert es, die von Künstlicher Intelligenz (KI) vorgeschlagenen Entscheidungen nachzuvollziehen und zu akzeptieren. Im Sonderforschungsbereich/Transregio 318 "Constructing Explainability" (Erklärbarkeit konstruieren) erarbeiten die Forscher*innen Wege, die Nutzer*innen in den Erklärprozess einzubinden und damit ko-konstruktive Erklärungen zu schaffen. Dafür untersucht das interdisziplinäre Forschungsteam die Prinzipien, Mechanismen und sozialen Praktiken des Erklärens und wie diese im Design von KI-Systemen berücksichtigt werden können. Das Ziel des Projektes ist es, Erklärprozesse verständlich zu gestalten und verstehbare Assistenzsysteme zu schaffen.

Zum Forschungsprofil

News

Die Mitglieder des TRR 318 verabschieden sich in die Feiertage – Lesestoff gibt es bis zum neuen Jahr in Form eines Kinderbuchs, eines Jahresrückblicks sowie einer auf den Transregio zugeschnittenen Weihnachtsgeschichte...

Mehr erfahren
Dr. David Johnson, Erstautor der A06-Publikation „Explainable AI for Audio and Visual Affective Computing: A Scoping Review“.

Affective Computing befasst sich mit der computergestützten Erkennung menschlicher Emotionen. Im TRR 318 forscht dazu das Team aus dem Projekt A06 „Inklusive Ko-Konstruktion sozialer Signale des Verstehens“. Dr. David Johnson, Jonas Paletschek und Prof. Dr. Hanna Drimalla haben nun in Zusammenarbeit mit Olya Hakobyan einen Artikel zur Relevanz Erklärbarer Künstliche Intelligenz (XAI) für Affective Computing veröffentlicht.

Mehr erfahren
Fabian Fumagalli und Maximilian Muschalik (v.l.), Doktoranden im Projekt C03.

Ein Team aus Transregio-Forschenden der Universität Bielefeld und der LMU München hat ein neues Open-Source-Tool entwickelt: shapiq. Die Software erweitert bestehende Methoden der erklärbaren KI, indem sie nicht nur den Einfluss einzelner Merkmale, sondern auch deren gemeinsame Wechselwirkungen analysiert. Maximilian Muschalik und Fabian Fumagalli stellen die Ergebnisse jetzt auf der Konferenz NeurIPS 2024 vor.

Mehr erfahren
Prof. Dr.-Ing. Hendrik Buschmeier, Projektleiter A02, und Meisam Booshehri, Doktorand INF, stellen ein Modell für erfolgreiche dialogische Erklärungen vor.

Mit Sprache, Mimik und Gestik zeigen Menschen, ob sie eine Erklärung verstanden haben. Diese multimodale Kommunikation soll auch in Erklärdialogen mit KI-Systemen eingesetzt werden. Forscher*innen des TRR 318 stellten auf der ICMI 2024, der 26. internationalen Konferenz zu multimodaler Interaktion, ihre Ansätze und Ergebnisse in dem Bereich vor. Dafür reisten vier Mitglieder des Transregios vom 4. bis 8. November nach San José, Costa Rica.

Mehr erfahren

Termine

24.01.2025 - 24.01.2025

Wri­ting Day in Pa­der­born; led by Dr. An­drea Kars­ten

Mehr erfahren
29.01.2025 - 29.01.2025

Ac­ti­vi­ty Af­ter­noon

Mehr erfahren
05.02.2025 - 06.02.2025

Me­dia Trai­ning/Sci­ence Com­mu­ni­ca­ti­on Work­shop II: Be­co­ming Vi­si­ble - With a per­so­nal com­mu­ni­ca­ti­on stra­t­egy

Mehr erfahren
26.02.2025 - 26.02.2025

Ac­ti­vi­ty Af­ter­noon

Mehr erfahren
26.03.2025 - 26.03.2025

Ex­ten­ded Ac­ti­vi­ty Af­ter­noon

Mehr erfahren
28.03.2025 - 28.03.2025

Wri­ting Day in Pa­der­born led by Dr. An­drea Kars­ten

Mehr erfahren
02.04.2025 - 02.04.2025

On­line-Work­shop Good Scien­ti­fic Prac­ti­ce, Dr. An­ne Ham­ker, Leip­zig

Mehr erfahren
30.04.2025 - 30.04.2025

Ex­ten­ded Ac­ti­vi­ty Af­ter­noon

Mehr erfahren
23.05.2025 - 23.05.2025

Wri­ting Day in Pa­der­born led by Dr. An­drea Kars­ten

Mehr erfahren
28.05.2025 - 28.05.2025

Ex­ten­ded Ac­ti­vi­ty Af­ter­noon

Mehr erfahren
17.06.2025 - 18.06.2025

3. TRR 318 Kon­fe­renz "Con­tex­tu­a­li­zing Ex­pla­na­ti­ons"

Mehr erfahren
25.06.2025 - 25.06.2025

Ex­ten­ded Ac­ti­vi­ty Af­ter­noon

Mehr erfahren
24.09.2025 - 24.09.2025

Ac­ti­vi­ty Af­ter­noon

Mehr erfahren
21.11.2025 - 21.11.2025

Wri­ting Day in Pa­der­born led by Dr. An­drea Kars­ten

Mehr erfahren
Weitere Veranstaltungen

Projekte

Alle Projekte

Die Forschungsbereiche des TRR 318 gliedern sich in A „Erklärprozess“, B „Soziale Praktik“ und C „Darstellung und Berechnung von Erklärungen“. Die drei Bereiche wiederum teilen sich in interdisziplinäre Teilprojekte auf. Übergreifend schafft das INF-Projekt eine Forschungsstruktur, das Ö-Projekt sorgt für einen Austausch mit der Öffentlichkeit, das Z-Projekt verwaltet die Organisation und Finanzen und das RTG-Projekt sorgt für die Ausbildung der Doktorand*innen und Postdoktorand*innen.

Alle Projekte

Bereich A - Erklärprozess

Mehr erfahren

Bereich B - Soziale Praktik

Mehr erfahren

Bereich C - Darstellung und Berechnung von Erklärungen

Mehr erfahren

Übergreifende Projekte

Mehr erfahren

Mit­glie­der

Die Ko-Konstruktion von Erklärungen untersuchen insgesamt 21 Projektleiter*innen mit rund 50 wissenschaftlichen Mitarbeiter*innen aus Linguistik, Psychologie, Medienwissenschaft, Soziologie, Wirtschaftswissenschaft, Informatik und Philosophie der Universitäten Bielefeld und Paderborn.

KI-Fo­rum

Work­shops für KI-Ein­stei­ger*in­nen

Der TRR 318 bietet für Personen mit Interesse an Künstlicher Intelligenz und ohne Vorerfahrung in diesem Bereich Workshops zum Mitmachen an. Das Angebot richtet sich an Schulklassen, Stakeholder und Medizinstudent*innen.

Zu den Workshops

Ver­net­zungs­mög­lich­kei­ten

Das Integrierte Graduiertenkolleg strukturiert die Weiterbildung der Doktorand*innen und Postdocs. Externe Doktorand*innen laden wir herzlich ein, uns ihr Interesse an einem Gaststipendium in unserem Sonderforschungsbereich zu bekunden!

Mehr erfahren

Teil­nah­me an wis­sen­schaft­li­chen Stu­di­en

Viele Teilprojekte des TRR 318 untersuchen die Kommunikation zwischen Mensch und Maschine und zwischen Mensch und Mensch in Echtzeitsituationen. Interessierte können an Studien teilnehmen und auf diese Weise an der Forschung mitwirken.

Zu den Studien

Me­di­en

Was ist eigentlich 'Erklärbare Künstliche Intelligenz'? Und wie erforscht man sie? Mit diesen Fragen beschäftigen sich Forscher*innen des TRR 318 täglich. Über verschiedene Kanäle (Newsletter, Podcast, etc.) wollen wir hier externen Forscher*innen und Interessierten Einblicke geben, immer mit der Möglichkeit, selbst Fragen zu stellen.

Zu den Kanälen

Fra­gen zu KI

Künstliche Intelligenz wirft immer noch viele Fragen auf. Mit unserem Postkarten-Projekt versuchen wir die Fragen aufzugreifen und zu beantworten.

Zu Fragen und Antworten

Newslet­ter

Abonnieren Sie unsere Newsletter-Mailingliste, um über die laufende Arbeit und aktuelle Veranstaltungen des TRR 318 informiert zu werden!

Spre­che­rin

business-card image

Prof. Dr. Katharina Rohlfing

Sonderforschungsbereich Transregio 318

Projektleiterin A01, A05, Z

E-Mail schreiben +49 5251 60-5717

Stell­ver­tre­ten­der Spre­cher

business-card image

Prof. Dr. Philipp Cimiano

Sonderforschungsbereich Transregio 318

Projektleiter B01, C05, INF

E-Mail schreiben

Lesen Sie mehr über uns: