Tobias Peters und Professorin Dr. Ingrid Scharlau vom Projekt C01 widmen sich in ihrer aktuellen Studie den Fragen, wie Menschen mit fehlerhaften Empfehlungen von KI-Systemen umgehen, und ob gezielt gefördertes Misstrauen ihre Leistung im Umgang mit diesen Systemen verbessern kann. Das zentrale Ergebnis: Eine Aufforderung zur Skepsis steigert die Leistung nicht, sondern verschlechtert diese tendenziell sogar.
Kann Künstliche Intelligenz mit Ärzt*innen auf Augenhöhe zusammenarbeiten und ihnen helfen, bessere Diagnosen zu stellen? Mit dieser Frage beschäftigt sich ein Forschungsteam des Projekts C05 im TRR 318. Die Informatiker arbeiten an einem interaktiven System, das Ärzt*innen bei der Diagnosefindung begleitet und im Dialog mit ihnen Annahmen überprüft und abwägt.
Auch 2025 ist der TRR 318 wieder mit Beiträgen auf der World Conference on Explainable Artificial Intelligence (XAI) vertreten, die vom 9. bis 11. Juli in Istanbul stattfindet. Die Konferenz bringt jedes Jahr internationale Expert*innen zusammen, um die neuesten Entwicklungen rund um erklärbare Künstliche Intelligenz (XAI) zu diskutieren. In diesem Jahr sind Forschende aus den Projekten A03 und C02 dabei, um ihre aktuellen Arbeiten vorzustellen.
Am 17. und 18. Juni sind rund 80 Forschende mit internationalen und interdisziplinären Perspektiven zur TRR 318-Konferenz „Contextualizing Explanations“ in Bielefeld zusammen zugekommen. Die eingeladenen Sprecher*innen und Besucher*innen diskutierten die Bedeutung von Kontext in Erklärsituationen.
Wie lernen Kinder ihre ersten Worte, und wie können Pflegeroboter die Fähigkeiten erwerben, Patient*innen zu helfen? In der fünften Folge des Podcasts „Explaining Explainability“ beleuchten Expert*innen das Konzept des Scaffolding - die Kunst, Lernende so zu unterstützen, dass sie komplexe Aufgaben eigenständig meistern - und wenden es auf Erklärsituationen an.
Die aktuelle Ausgabe des TRR 318-Newsletters widmet sich der Frage, welche Rolle der Kontext bei Erklärungen von KI spielt – passend zum Thema der dritten TRR 318-Konferenz „Contextualizing Explanations“, die am 17. und 18. Juni an der Universität Bielefeld stattfindet.
Forscher*innen des Projekts INF haben ein Modell entwickelt, das darauf abzielt, die optimalen Prompts vorherzusagen. Dadurch soll die generierte Ausgabe von Sprachmodellen verbessert werden. Maximilian Spliethöver hat die Studie des TRR 318 auf der Konferenz NAACL 2025 in New Mexico, USA präsentiert.
Hubert Baniecki ist Doktorand an der Universität Warschau und war im März als Gastwissenschaftler im Teilprojekt C03 des TRR 318 an der LMU München. Im Interview erzählt er, woran er mit den TRR-Mitgliedern geforscht hat, was die Zusammenarbeit für ihn besonders gemacht hat und welche Eindrücke er mitnimmt.
Haben wir mit ChatGPT und DeepSeek bereits eine Lösung für eine erklärbare KI gefunden, die unseren Anforderungen an eine KI, die sich selbst erklären kann, gerecht wird? Diese Frage diskutiert Moderatorin Prof. Dr.-Ing. Britta Wrede mit ihren Gästen Prof. Dr. Henning Wachsmuth und Prof. Dr. Axel Ngonga Ngomo in der vierten Folge des Podcasts „Explaining Explainability“.
Wie können Erklärungen von KI-Systemen verständlich gestaltet werden, und welche Rolle spielt der Kontext dabei? Diese Fragen stehen im Mittelpunkt der 3. TRR 318-Konferenz „Contextualizing Explanations“, die am 17. und 18. Juni in Bielefeld stattfindet.
V.l.: TRR-248-Sprecher Prof. Dr.-Ing Raimund Dachselt, Prof. Dr. Eyke Hüllermeier, Prof. Dr. Katharina Rohlfing, Prof. Dr. Kirsten Thommes, Prof. Dr. Philipp Cimiano, Prof. Dr.-Ing. Anna-Lisa Vollmer sowie die Projektleiter*innen des TRR 248, Prof. Dr. Vera Demberg und Prof. Dr. Markus Krötzsch.
Ein Team des TRR 318 hat am Donnerstag den Sonderforschungsbereich/Transregio 248 „Grundlagen verständlicher Software-Systeme“ besucht. Ziel des Treffens war es, Schnittstellen zwischen den beiden Forschungsverbünden zu identifizieren und den wissenschaftlichen Austausch zu intensivieren.
Der TRR 318 „Constructing Explainability“ ist nun auf Instagram vertreten. Der neue Account sfb_trr318 bietet regelmäßige Updates und Einblicke in die interdisziplinäre Forschung rund um das Thema erklärbare Künstliche Intelligenz (XAI).
In einem neuen Video erläutert Nils Klowait, wie Künstliche Intelligenz (KI) durch Ko-Konstruktion demokratisch gestaltet werden kann. Einblicke in aktuelle Forschung des TRR 318.
