Mit einem Kick-off-Event am 3. März im CITEC-Gebäude der Universität Bielefeld ist der Sonderforschungsbereich/Transregio TRR 318 „Constructing Explainability“ offiziell in seine zweite Förderphase gestartet. Mit Vorträgen sowie verschiedenen Austauschformaten für Mitglieder und Assoziierte wurde die nächste Phase der gemeinsamen Forschung eingeläutet.
In der ersten Förderphase haben die Forschenden gezeigt, dass Erklärungen nur dann wirksam sind, wenn auch die Perspektive derjenigen berücksichtigt wird, die eine Erklärung erhalten. Aufbauend auf diesen Erkenntnissen rückt in der zweiten Förderphase insbesondere der Kontext von Erklärungen in den Fokus – etwa unterschiedliche Situationen, Settings, Personen sowie der gemeinsame Wissensstand, der im Dialog entsteht.
Ziel der kommenden Forschungsphase ist es, zu untersuchen, wie sich Erklärungen an diese kontextuellen Bedingungen anpassen müssen und wie KI-Systeme darauf reagieren können. Künftig sollen KI-Systeme in der Lage sein, Erklärungen flexibel zu gestalten und den Dialog mit Nutzer*innen situationsangemessen weiterzuführen.
Mit Beginn der zweiten Förderphase starten zudem zwei neue Teilprojekte im TRR 318:
Im Projekt B07 untersuchen die Forschenden, wie Nutzer*innen mittels interaktiver Eingaben (Prompts) Informationen und Erklärungen von KI-Systemen auf Basis großer Sprachmodelle, wie zum Beispiel ChatGPT, erfragen. Mithilfe von Gesprächsanalysen wird erforscht, wie sich Verständnis im Austausch mit KI schrittweise entwickelt und wie Nutzer*innen lernen, die Antworten der Systeme besser einzuordnen. Ziel ist es, einen kontextsensitiven Rahmen für die Mensch-Maschine-Interaktion zu entwickeln.
Das Projekt C07 widmet sich der Frage, wie große Sprachmodelle so angepasst werden können, dass sie Erklärungen gemeinsam mit Nutzer*innen erarbeiten. Dabei sollen KI-Systeme im Dialog erkennen, was bereits verstanden wurde, wo noch Unsicherheiten bestehen und wie Erklärungen Schritt für Schritt weiter aufgebaut werden können, indem relevante Wissens- und Kontextinformationen gezielt berücksichtigt werden.
Am TRR 318 sind über 60 Forschende aus sieben Disziplinen in insgesamt 20 Teilprojekten beteiligt.
Zu den Projekten
Zum Forschungsprofil
