Marco Matarese ist Doktorand am Italienischen Institut für Technologie der Universität Genua und im Rahmen eines viermonatigen PhD Fellowships bis Ende Juni Gastwissenschaftler im Teilprojekt A01 des TRR 318. In seiner Forschung untersucht er die Auswirkungen von erklärbarer KI (Englisch: Explainable AI, kurz: XAI) auf die Art und Weise, wie Menschen mit Robotern interagieren und sie wahrnehmen. In diesem Interview beschreibt er seine bisherige Zeit am TRR 318, die Besonderheiten seiner Forschung im A01-Projekt und worin für ihn das Potenzial und die Gefahren beim Einsatz von KI liegen.
Wie hast du vom TRR 318 erfahren?
MM: So wie man es sich vorstellt: zwei Menschen, die aufeinandertreffen und miteinander ins Gespräch kommen. Eine meiner Betreuer*innen am Italian Institute of Technology, Dr. Alessandra Sciutti (CONTACT unit am iit), traf die Sprecherin vom TRR 318, Professorin Dr. Katharina Rohlfing auf einer Konferenz. Sie hat mir geraten, das Projekt anzuschauen, da ich einen Ort für meinen Forschungsaufenthalt im Ausland gesucht habe. Die Arbeiten, die ich dazu gelesen habe, gefielen mir, also habe ich mich um ein Gaststipendium beworben.
Woran arbeitest du im Projekt A01 „Adaptives Erklären“ im TRR 318?
MM: Meine Forschungsinteressen passen genau zum Thema des Teilprojekts A01, das sich mit adaptiven Erklärungen beschäftigt. Im Moment konzentriere ich mich auf die Frage, wie informativ ein erklärungsfähiger Roboter bei kollaborativen Entscheidungsaufgaben sein kann. Wie auch das Projekt A01 schaue ich dabei auf den Einsatz von adaptiven Erklärungen, um Erklärungen zwischen Mensch und Maschine erfolgreich zu gestalten. Bei adaptiven Erklärstrategien verändert sich das Erklärungsmodell während der Erklärung, es passt sich quasi ‚live‘ an die Gesprächspartner*innen an. Diese neue Definition des Partnermodells unterscheidet sich von den klassischen Ansätzen der XAI-Forschung.
Was gefällt dir bisher am meisten an deiner Arbeit im TRR 318?
MM: Es war von Anfang an eine tolle Erfahrung; die Projektmitarbeiter*innen von A01 haben mich herzlich aufgenommen. Was mir an der Forschung am meisten gefällt, ist die Möglichkeit sich mit Ideen, Methoden und Forschungsfragen auseinanderzusetzen, die so ganz anders sind als das, was ich bisher gewohnt war. Der multidisziplinäre Ansatz war genau das, was ich gesucht habe, und die Arbeit hier macht mir viel Spaß.
Was ist deine gewagte – oder weniger gewagte – These zu KI?
MM: Ich glaube, wir brauchen mehr Bewusstsein im Umgang mit KI. Das mag eine seltsame Behauptung sein, wie kann Bewusstsein gewagt sein?! Aber ich war schon vor ChatGPT davon überzeugt – und seit sich solche Technologien in unserem Alltag ausbreiten, hat sich dieser Gedanke in mir noch verstärkt. Nur wenn wir uns den Grenzen und Stärken von KI bewusst werden, können wir sie sinnvoll einsetzen und betrachten sie nicht mehr als „Zauberkiste“, die alles für uns erledigt.
Vervollständige den Satz „KI ist...“.
MM: KI ist... ein Werkzeug. Und wie alle Werkzeuge kann es gut oder schlecht eingesetzt werden. Ich glaube, dass KI am besten funktioniert, wenn sie mit menschlicher Intelligenz und Sensibilität kombiniert wird. Der Schlüssel liegt dann darin, einen sensibleren Umgang mit KI zu fördern und diese Technologie bewusster einzusetzen, um auch übermäßigem Vertrauen in intelligente Maschinen entgegenzuwirken.
Gibt es noch einen Gedanken, den du gerne teilen möchtest?
„Teilen“ ist das Schlüsselwort. Das Wertvollste, was ich auf meiner bisher kurzen Reise durch die Welt der Forschung erlebt habe, ist der Austausch und die Diskussion von Ideen und Ansichten mit Menschen aus verschiedenen Kulturen und mit unterschiedlichem Hintergrund. Gerade wir Doktorand*innen sind oft in unseren Forschungsprojekten gefangen, aber ich denke, es lohnt sich, die Komfortzone zu verlassen und mit anderen zu sprechen. Am Anfang kann es einem Angst machen, aber es gibt viele nette Leute, mit denen man reden und von denen man lernen kann.
Weiterführende Informationen
- Integriertes Graduiertenkolleg des Transregios 318
- Projekt A01 „Adaptivees Erklären“
- Artikel zum Visiting Fellowship
