Hubert Baniecki ist Doktorand an der Universität Warschau und war im März als Gastwissenschaftler im Teilprojekt C03 des TRR 318 an der LMU München. In seiner Forschung beschäftigt er sich mit der Erklärbarkeit von KI-Systemen – insbesondere mit effizienten Methoden zur Erklärung maschineller Entscheidungen und deren Robustheit. Im Interview erzählt er, woran er mit den TRR-Mitgliedern geforscht hat, was die Zusammenarbeit für ihn besonders gemacht hat und welche Eindrücke er mitnimmt.
TRR 318: Woran hast du während deiner Zeit an der LMU München gearbeitet?
Hubert Baniecki: „Während meines Aufenthalts im März habe ich mit Maximilian Muschalik, Fabian Fumagalli und Professor Eyke Hüllermeier an einem gemeinsamen Forschungsprojekt gearbeitet. Wir haben die Möglichkeit untersucht, moderne Machine-Learning-Modelle mit Shapley-Interaktionen zu erklären. Das ist eine direkte Fortsetzung unserer kürzlich veröffentlichten Arbeit. Ein weiteres zentrales Ergebnis des Aufenthalts war der Fortschritt bei der Skalierung des {shapiq}-Frameworks, um Deep-Learning-Probleme effizienter zu bearbeiten.“
Welches Ziel verfolgt ihr dabei?
„Ziel der Zusammenarbeit ist es, eine neue Methode zur Interpretation von Entscheidungen zu entwickeln, die von komplexen KI-Systemen getroffen werden, die Text- und Bilddaten gemeinsam verarbeiten. Darüber hinaus beabsichtigen wir, eine Implementierung des neuen Algorithmus im Open-Source-Softwarepaket {shapiq} zu integrieren.“
Was hat die Zusammenarbeit für dich besonders gemacht?
„Die Zusammenarbeit war unglaublich produktiv - wir haben dank des hohen Tempos und der engen Abstimmung mit dem Team zwei Monate Arbeit in nur einem Monat geschafft. Ohne die außergewöhnliche spieltheoretische Expertise von Projektmitglied Fabian Fumagalli wäre das nicht möglich gewesen. Auch die Diskussionen mit Professor Hüllermeier waren sehr aufschlussreich und haben dazu beigetragen, die Richtung des Projekts zu formen und zu erweitern.“
Was nimmst du aus deinem Aufenthalt mit?
„Ich habe es sehr genossen, mit Kolleg*innen zusammenzukommen, Erfahrungen auszutauschen und einen Monat lang in ein neues Forschungsumfeld einzutauchen. Ich hatte auch die Gelegenheit, am Gruppenseminar teilzunehmen und mein ICLR-Spotlight-Papier zu präsentieren, was eine großartige Gelegenheit war, meine Ergebnisse mitzuteilen und Feedback und Ideen auszutauschen.“
Weiterführende Informationen
- Integriertes Graduiertenkolleg des TRR 318
- Projekt C03 im TRR 318
- Informationen zum Visiting Fellowship
