Großer Erfolg in Lissabon: Auf der World Conference on eXplainable Artificial Intelligence hat das Team des Transregio-Teilprojekts C03 „Interpretierbares maschinelles Lernen: Erklärbarkeit in dynamischen Umgebungen“ den Preis für die beste wissenschaftliche Publikation gewonnen. Maximilian Muschalik und Fabian Fumagalli reisten zur Konferenz nach Portugal und nahmen dort die Auszeichnung für ihr Paper „iPDP: On Partial Dependence Plots in Dynamic Modeling Scenarios“ entgegen.
„In unserem Paper nehmen wir eine bestehende Methode auf und erweitern sie auf Fälle, in denen sich Modelle kontinuierlich ändern“, erklärt Maximilian Muschalik. Post-hoc-Erklärungstechniken wie der bekannte Partial Dependence Plot (PDP) untersuchen die Effekte von Merkmalen auf die Entscheidung. Sie werden in der erklärbaren künstlichen Intelligenz (XAI) verwendet, um Black-Box-Modelle für maschinelles Lernen zu verstehen. Während viele reale Anwendungen dynamische Modelle erfordern, die sich im Laufe der Zeit ständig anpassen und auf Änderungen in der zugrunde liegenden Verteilung reagieren, wurden in der XAI bisher hauptsächlich statische Lernumgebungen betrachtet, in denen Modelle einmalig auf einem Datenset trainiert werden und unverändert bleiben. In dem ausgezeichneten Paper entwickeln Muschalik und Fumagalli ein neuartiges, modellunabhängiges XAI-Framework, das als inkrementelles PDP (iPDP) bezeichnet wird und das, aufbauend auf dem ursprünglichen PDP, zeitabhängige Merkmalseffekte in nicht-stationären Lernumgebungen extrahiert. „Unsere Methode ermöglicht es, die Berechnungen effizient mit dem aktuellen Modell und den neuen Datenpunkten upzudaten, um auf Veränderungen schnellstmöglich zu reagieren“, erklärt Fumagalli. Muschalik erläutert: „In unserem Paper veranschaulichen wir die Wirksamkeit von iPDP anhand einer Beispielanwendung zur Drifterkennung und führen mehrere Experimente mit realen und synthetischen Datensätzen und -strömen durch.“
„Wir hatten insgesamt einen sehr positiven Eindruck von der Konferenz. Die Vorträge waren sehr abwechslungsreich und es gab viele Schnittstellen zu anderen Fachbereichen, was nochmal eine Bestätigung für die interdisziplinäre Arbeit des TRRs ist“, resümiert Fumagalli.
Die internationale Konferenz zu erklärbarer künstlicher Intelligenz (XAI 2023) fand 2023 zum ersten Mal statt. In Zukunft soll sie jedes Jahr Forschende, Akademiker*innen und Fachleute zusammenbringen, um den Austausch und die Diskussion von Wissen, neuen Perspektiven, Erfahrungen und Innovationen auf dem Gebiet der erklärbaren künstlichen Intelligenz (XAI) zu fördern. Die Veranstaltung ist multidisziplinär und interdisziplinär angelegt und lädt Wissenschaftler*innen verschiedener Fachrichtungen ein, darunter Informatik, Psychologie, Philosophie und Sozialwissenschaften, sowie Vertreter*innen aus der Industrie, die sich für die praktischen, sozialen und ethischen Aspekte der Erklärung der Modelle interessieren, die sich aus der Disziplin der künstlichen Intelligenz (KI) ergeben.
