Ein Team aus Transregio-Forschenden der Universität Bielefeld und der LMU München hat ein neues Open-Source-Tool entwickelt: shapiq. Die Software erweitert bestehende Methoden der erklärbaren KI, indem sie nicht nur den Einfluss einzelner Merkmale, sondern auch deren gemeinsame Wechselwirkungen analysiert. Maximilian Muschalik und Fabian Fumagalli stellen die Ergebnisse jetzt auf der Konferenz NeurIPS 2024 vor.
Prof. Dr.-Ing. Hendrik Buschmeier, Projektleiter A02, und Meisam Booshehri, Doktorand INF, stellen ein Modell für erfolgreiche dialogische Erklärungen vor.
Mit Sprache, Mimik und Gestik zeigen Menschen, ob sie eine Erklärung verstanden haben. Diese multimodale Kommunikation soll auch in Erklärdialogen mit KI-Systemen eingesetzt werden. Forscher*innen des TRR 318 stellten auf der ICMI 2024, der 26. internationalen Konferenz zu multimodaler Interaktion, ihre Ansätze und Ergebnisse in dem Bereich vor. Dafür reisten vier Mitglieder des Transregios vom 4. bis 8. November nach San José, Costa Rica.
Der TRR 318 war auf dem diesjährigen Internationalen Symposium für Multimodale Kommunikation (MMSYM 2024) in Frankfurt stark vertreten. Neben der Keynote von Prof. Dr. Petra Wagner, Projektleiterin von A02, stellten Prof. Dr.-Ing. Hendrik Buschmeier (A02), Stefan Lazarov (A02) und Vivien Lohmer (A04) ihre Arbeiten in Posterpräsentationen vor.
Professorin Dr. Katharina Rohlfing war zu Gast im Podcast „Autonomie & Algorithmen“. In der Folge „Wenn KI-Systeme sich selbst erklären: Nachvollziehbarkeit, Ko-Konstruktion und Vertrauen“ gibt die TRR 318-Sprecherin Einblicke in die Forschung des Transregio und beschreibt die interaktive Sicht auf „Explaining“, mit der sich die Wissenschaftler*innen des Sonderforschungsbereichs vorrangig befassen.
In der diesjährigen Reihe von Public Talks des Transregio „Erklärbarkeit konstruieren“ (TRR 318) standen die Verwendung und die Auswirkungen von Chat-GPT-Technologien im Fokus. Der Vortrag von Professor Dr. Hendrik Buschmeier zum Thema „Vertrauen und Misstrauen im Umgang mit KI-Chatbots“ ist nun als Teil der Reihe Bielefeld Lectures erschienen und online verfügbar.
Am 13. September wird Dr. Christian Schulz an einem interdisziplinären Workshop an der University of North Carolina in Chapel Hill (USA) teilnehmen. Der Workshop mit dem Titel "Sociotechnical Consequences of AI: An Interdisciplinary Exploration of Ethical, Organizational, Social, and Computational Dimensions" vereint internationale Expert*innen, um die vielschichtigen Auswirkungen von Künstlicher Intelligenz (KI) zu diskutieren.
Beim 33. Internationalen Psychologiekongress (ICP 2024) in Prag diskutierten Expert*innen im Symposium von Professorinnen Heike M. Buhl und Ingrid Scharlau über die ko-konstruktive Natur des Erklärens. Im Fokus standen die Einflüsse von Metaphern und Partnerdynamiken auf die Wirksamkeit von Erklärungen, ergänzt durch praxisnahe Beiträge aus der Didaktik und Bildungspsychologie.
Im Rahmen des zweiten Internationalen Symposiums für Multimodale Kommunikation (MMSYM 2024) in Frankfurt wird die Bielefelder Professorin Dr. Petra Wagner, Projektleiterin von A02, eine Keynote halten. Bei dem Vortrag zum Thema „The multimodal expression of (non-)understanding in dyadic explanations – some lessons learned“ steht die Forschung des A02-Projekts im Fokus.
In seiner aktuellen Publikation mit dem Titel „Algorithmen: Technology Culture Politics“ greift Professor Dr. Tobias Matzner, Projektleiter von B03 und B06, mehr als zwei Jahrzehnte kritischer Forschung zu Algorithmen auf und baut noch darauf auf.
Vom 24. bis 27. Juli 2024 findet in Rotterdam die CogSci 2024 statt, die größte Tagung für Kognitionswissenschaft weltweit. Auch in diesem Jahr werden TRR-Wissenschaftler*innen durch zwei Beiträge vertreten sein. Stefan Lazarov (A02) und Josephine B. Fisher (A01) präsentieren ihre Forschung vor Ort in den Niederlanden.
Helen Beierling, Doktorandin aus dem B05 Projekt, wurde während des Workshops „Mechanisms for Mapping Human Input to Robots – From Robot Learning to Shared Control/Autonomy“ auf der Robotics: Science and Systems (RSS) Konferenz in Delft mit dem Best Student Paper Award ausgezeichnet.
Im TRR 318 beschäftigen sich die Wissenschaftler*innen unter anderem mit der Erforschung und Entwicklung von KI-Anwendungen, um Qualität und Sicherheit der medizinischen Versorgung verbessern können. Anna-Lisa Vollmer, Professorin an der Universität Bielefeld und Projektleiterin des Projekts B05 sprach hierzu nun bei einem Vortrag und einer anschließenden Panel-Diskussion auf einer Veranstaltung der Industrie- und Handelskammer Ostwestfalen.
TRR-Mitglied Kai Biermeier (Projekt Z) erhielt auf der PETRA-Konferenz für seinen Beitrag zur visuellen Aufmerksamkeit in VR- Und AR-Umgebungen den Best Paper Award Runner Up in der Kategorie Novelty.
Die jährliche World Conference on Explainable Artificial Intelligence (XAI) bringt Expert*innen aus verschiedenen Forschungsfeldern zusammen, um Wissen, Erfahrungen und Innovationen im Bereich der Erklärbaren Künstlichen Intelligenz auszutauschen und zu diskutieren. Wie im vergangenen Jahr werden auch in diesem Sommer viele Forschende des TRR 318 auf der XAI Conference vertreten sein und ihre neuesten Publikationen vorstellen.
