Dr. Dimitry Mindlin, Projekt B01, Informatik
In seiner Arbeit zeigt Dr. Dimitry Mindlin, dass nicht die Interaktivität an sich, sondern die konkrete Gestaltung der Kommunikation darüber entscheidet, wie gut Nutzer*innen ein Modell des maschinellen Lernens verstehen. Damit stützt die Arbeit den ko-konstruktiven Ansatz des TRR 318.
Größte Erkenntnis:
Menschen verstehen ein KI-Modell messbar besser, wenn sie Rückfragen zu dessen Entscheidungen stellen können, statt nur eine fertige Erklärung zu lesen. Eine einfache Chatbox genügt dafür jedoch nicht, insbesondere wenn die Zahl der Rückfragen begrenzt ist. Der Nutzen natürlicher Sprache entsteht erst, wenn das System den Verständnisstand der Nutzer*innen fortlaufend beobachtet, die Erklärung daran anpasst und selbst Initiative ergreift.
Bedeutung für den TRR 318:
Die Arbeit liefert empirische Belege für die Grundannahme des TRR 318, dass Erklärungen ko-konstruiert und nicht einseitig vermittelt werden sollten. Sie zeigt, dass das Kommunikationsdesign das Verständnis beeinflusst, unabhängig von der verwendeten Erklärmethode. Zudem zeigt sie, wie sich Ko-Konstruktion an den jeweiligen Kontext anpassen lässt: wann sie vollständig erforderlich ist und wann einfachere Formen genügen. Darüber hinaus hat Mindlin ein Erklärsystem entwickelt, das im Gespräch fortlaufend erfasst, was Nutzer*innen bereits verstanden haben, erkennt, wo noch Lücken bestehen, und den nächsten Erklärschritt gezielt darauf abstimmt. Dabei reagiert es nicht nur auf Fragen, sondern ergreift auch selbst die Initiative. Das System ist ein erster technischer Schritt in Richtung Ko-Konstruktion und bildet eine Grundlage, auf der weitere Arbeiten im TRR 318 aufbauen können.
Einfluss auf die (KI-)Praxis:
Interaktive Erklärsysteme sollten nicht nur bessere Erklärmethoden bereitstellen, sondern ebenso die Kommunikation gestalten. Bei der Gestaltung von KI-Systemen sollten Kontinuität, Adaptivität und Initiative als eigenständige Faktoren des Verständnisses behandelt werden und nicht als Beiwerk der Erklärmethode.
Dr. Helen Beierling, Projekt B05, Informatik
In ihrer Promotion hat Dr. Helen Beierling untersucht, wie Lai*innen Roboter effektiver trainieren können, indem sie ein sogenanntes „Co-Constructive Training“ nutzen. Dabei erhalten die Nutzer*innen Unterstützung durch verschiedene Feedback-Methoden und durch „Augemented Reality“, die ihnen hilft, den Lernprozess besser zu verstehen. Das Ziel dieses Ansatzes ist es, interaktive Robotersysteme zu entwickeln, die sich flexibel an das jeweilige Verständnis der Nutzer*innen während des Trainings anpassen.
Größte Erkenntnis:
Die wichtigste Erkenntnis ist, dass die Nutzung mehrerer Interaktionsmethoden das Lernen verbessert. Allerdings setzen die Nutzer*innen diese Methoden nicht immer entsprechend ihrem tatsächlichen Nutzen ein. Außerdem zeigt sich, dass Transparenz das Verständnis fördert, jedoch nicht automatisch zu besseren Leistungen führt. Die Arbeit hat auch systematisch ermittelt, welche Konzepte Lai*innen über das Training von Robotern nicht kennen oder falsch interpretieren.
Bedeutung für den TRR 318:
Diese Arbeit trägt zum TRR 318 bei, indem sie aufzeigt, wie mentale Modelle und Verständnisprozesse in der Interaktion mit lernenden Systemen entstehen und beeinflusst werden können. Zudem bietet sie eine Methodik, um systematisch herauszufinden, welche wichtigen Konzepte für ein System erklärt werden sollten. Sie liefert damit erste Erkenntnisse, wie das Training von KI auf ko-konstruktive Weise gestaltet werden kann.
Einfluss auf die (KI-)Praxis:
Die Ergebnisse liefern konkrete Designimplikationen für KI-Systeme. Sie zeigen insbesondere, dass flexible Interaktionsmöglichkeiten das Training verbessern und die Erklärung von nicht sichtbaren Konzepten entscheidend für das Verständnis sind. Langfristig können solche Ansätze dazu beitragen, anpassbare und nutzerzentrierte KI-Systeme in Bereichen wie Robotik oder Assistenzsystemen zu entwickeln.
Dr. Amit Singh, Projekt A05, Psycholinguistik
In seiner Promotion hat sich Dr. Amit Singh mit der Frage beschäftigt, wie kontrastive Hinweise – insbesondere Verneinungen – unsere Aufmerksamkeit, unser Gedächtnis und das Lernen von Handlungen in dynamischen Situationen beeinflussen. Dabei werden Erkenntnisse aus der Psycholinguistik, der Kognitionswissenschaft, der Mensch-Roboter-Interaktion sowie der XAI verbunden.
Größte Erkenntnis:
Eine der wichtigsten Erkenntnisse war, dass Verneinungen – wenn sie im richtigen Moment eingesetzt werden – den bereits aufgebauten Kontext einer laufenden Interaktion aufgreifen und nutzbar machen können. Sie helfen dabei, Dinge im Kontrast zu erklären, also deutlich zu machen, was gemeint ist, indem sie von Alternativen abgegrenzt werden. So können sie das Verständnis fördern, weil Unterschiede klarer und expliziter werden.
Bedeutung für den TRR 318:
Das Projekt trägt dazu bei, Erklärbarkeit als einen dynamischen, sozialen und kontextabhängigen Prozess zu verstehen. Es zeigt, wie Erklärungen durch Interaktion entstehen und durch Kontraste auf mehreren Ebenen unterstützt werden.
Einfluss auf die (KI-)Praxis:
Interaktive KI-Systeme wie Roboter oder Assistenzsysteme können in passenden Situationen gezielt Kontraste einsetzen, um Aufmerksamkeit zu lenken, Lernprozesse zu unterstützen und die Zusammenarbeit zwischen Mensch und KI effektiver zu gestalten.
Dr. Maximilian Muschalik, Projekt C03, Informatik
Die Promotion von Dr. Maximilian Muschalik befasst sich mit einem zentralen Thema der erklärbaren KI: Feature-basierten Erklärungen. Diese zeigen, welche Merkmale ein KI-Modell für seine Entscheidung genutzt hat. Die Arbeit entwickelt diesen Ansatz weiter, indem sie auch das Zusammenspiel verschiedener Merkmale erklärt und neue Methoden für den Einsatz in dynamischen und besonders anspruchsvollen Anwendungsszenarien vorstellt.
Größte Erkenntnis:
Interaktionsbasierte Erklärungen sind besonders wichtig, um komplexe KI-Modelle verständlich zu machen. Moderne KI-Systeme verarbeiten häufig unterschiedliche Arten von Informationen – zum Beispiel Bilder, Texte oder Tabellendaten – und treffen ihre Entscheidungen auf Grundlage ihres Zusammenspiels. Betrachtet man diese Informationen einzeln, lässt sich die Entscheidung oft nicht ausreichend erklären. Deshalb müssen auch die Wechselwirkungen zwischen den verschiedenen Informationsquellen berücksichtigt werden.
Bedeutung für den TRR 318:
Die Arbeit liefert grundlegende Methoden für erklärbare KI, die in den Erklärstrategien des TRR 318 genutzt werden. Die entwickelten Ansätze fließen bereits in verschiedene Forschungsprojekte des Transregio ein. Ein wichtiger Teil der Methoden wurde in der Open-Source-Library „shapiq“ umgesetzt, die bereits in in mehreren TRR-Projekten zum Einsatz kommt.
Einfluss auf die (KI-)Praxis:
Die in der Promotion entwickelten Erklärmethoden werden bereits in der KI-Praxis eingesetzt. Forschende und Anwender*innen nutzen sie zunehmend, um komplexe KI-Modelle besser zu verstehen. Das zeigt sich unter anderem an der wachsenden Nutzung von „shapiq“ sowie in verschiedenen Kollaborationsprojekten. Mit der zunehmenden Verbreitung immer leistungsfähigerer KI-Modelle wächst auch die Bedeutung von Methoden, die ihre Entscheidungen nachvollziehbar erklären können.
Dr. Maximilian Spliethöver, Projekt C07, Informatik
In seiner Promotion hat Dr. Maximilian Spliethöver untersucht, wie sich soziale Verzerrungen – also Benachteiligungen gegenüber sozialen Gruppen oder ihren Mitgliedern – in NLP-Modellen und den zugrunde liegenden Daten zeigen. NLP steht für „Natural Language Processing“ und bezeichnet Technologien, mit denen Computer menschliche Sprache verarbeiten und verstehen können, beispielsweise Sprachmodelle. Dabei hat er Ansätze erforscht und entwickelt, mit denen soziale Verzerrungen in Trainingsdaten gemessen, in einzelnen Texten erkannt und sowohl in Daten als auch in Modellen reduziert werden können.
Größte Erkenntnis:
Soziale Verzerrungen sind stark vom jeweiligen Kontext abhängig. Deshalb müssen auch kulturelle Besonderheiten berücksichtigt und gezielte, kontextsensible Lösungsansätze entwickelt werden. Eine allgemeingültige Lösung, mit der sich sämtliche Verzerrungen aus NLP-Technologien oder anderen KI-Anwendungen entfernen lassen, gibt es vermutlich nicht.
Bedeutung für den TRR 318:
Vor allem die informatischen Projekte des TRR 318 werden NLP-Technologien und insbesondere auch große Sprachmodelle (LLMs) nutzen. Es ist daher wichtig, sich solcher grundlegenden Probleme der zugrunde liegenden Technologien bewusst zu sein und Möglichkeiten zu haben, sie zu untersuchen und zu reduzieren – auch im Kontext des Erklärens. Ein Beispiel wäre die unerwünschte Verwendung von Stereotypen in Erklärungen.
Einfluss auf die (KI-)Praxis:
Da NLP-Technologien immer wichtiger werden – insbesondere auch in kritischen Anwendungskontexten, die reale Auswirkungen haben können –, muss sichergestellt werden, dass diese Technologien und die darauf basierenden Tools einen gesellschaftlichen Mehrwert für alle schaffen. Sie sollten nicht nur einigen wenigen privilegierten Menschen zugutekommen, die nicht von verzerrten oder unfairen NLP-Technologien betroffen sind.
Dr. Vivien Lohmer, Projekt A04, Linguistik
In ihrer Promotion hat sich Dr. Vivien Lohmer damit beschäftigt, wie Erklärungen in alltäglichen Gesprächen ko-konstruktiv, also gemeinsam zwischen den Beteiligten, multimodal hergestellt werden. Ein zentraler Aspekt ist dabei die diskursive Struktur von Erklärungen: Wie werden Erklärungen im Gespräch gemeinsam hergestellt und wie gestalten die Beteiligten ihren Verlauf und Abschluss?
Größte Erkenntnis:
Erklärungen folgen nicht einfach einer vorgegebenen Struktur, sondern werden in ihrem Verlauf zwischen den Beteiligten immer wieder gemeinsam ausgehandelt. Bevor die Teilnehmer*innen in die inhaltlichen Aspekte einer Erklärung einsteigen, wird zunächst gemeinsam geklärt, warum und in welcher Form eine Erklärung relevant ist. Besonders das Ende einer Erklärung kommt nicht abrupt, sondern wird von den Teilnehmer*innen wechselseitig und teilweise sogar wiederholt hergestellt.
Bedeutung für den TRR 318:
Für Erklärungen zwischen Mensch und KI sind nicht nur die Inhalte entscheidend, sondern auch die diskursive und multimodale Gestaltung der Interaktion. Da Erklärungen zwischen den Beteiligten ko-konstruktiv ausgehandelt werden, lassen sich in Alltagserklärungen wiederkehrende interaktive Strukturen erkennen. Ein besonderer Fokus liegt dabei auf dem Ende einer Erklärung: Hier haben die Teilnehmer*innen die Möglichkeit, ihr eigenes Verstehen interaktiv relevant zu setzen und so mögliche Missverständnisse zu klären.
Einfluss auf die (KI-)Praxis:
Adaptive und dynamische KI-Systeme sollten neben den Inhalten einer Erklärung auch die diskursive Struktur berücksichtigen. Es zeigt sich, dass die gemeinsame Aushandlung des Endes einer Erklärung etwa 30-35 % der gesamten Zeit in Anspruch nimmt. Auch bei einer KI-Erklärung sollte daher ausreichend Raum dafür sein, das eigene Verstehen zu explizieren oder Rückfragen zu stellen. In abschließenden Zusammenfassungen wird sichtbar, was von der Erklärung verstanden wurde. Bei Missverständnissen oder Fehlern sollte ein adaptives und dynamisches KI-System entsprechend korrigieren, bevor das Ende der Erklärung erneut ausgehandelt wird.
