Projekt B06: Ethik und Normativität der erklärbaren KI
Erklärungen zu Entscheidungen von Künstlicher Intelligenz müssen ethisch reflektiert werden. Ansonsten könnten sie dazu verwendet werden, Nutzer*innen zu manipulieren oder Akzeptanz für eine Technologie zu schaffen, die ethisch oder rechtlich inakzeptabel ist, so Projektleiterin Prof. Dr. Suzana Alpsancar.
Erklärungen für KI-Entscheidungen sind nicht per se nützlich oder erwünscht, vielmehr ist es eine Forschungsfrage, wann für wen unter welchen Bedingungen Erklärungen ‚gut‘ sind. B06 untersucht diese Normativität von Erklärungen und erweitert den Blick auf die Ko-Konstruktion von Erklärungen um eine ethische Perspektive. In der ersten Förderperiode stellte das Projektteam aus Philosophie und Medienwissenschaften fest, dass es vielfältige normative Gründe für für erklärbare Künstliche Intelligenz (XAI) gibt. In der zweiten Förderphase untersucht das Projekt, in welchen organisatorischen Kontexten XAI eingesetzt wird und wie erklärbare KI dort epistemische und politische Tugenden vermitteln kann.
Das übergeordnete Ziel des Projektes ist es, eine höhere Sensibilität für soziale Kontexte zu schaffen, wenn zu Künstlicher Intelligenz geforscht wird. Dafür zeigen die Projektmitglieder Aspekte auf, die nicht technisch gelöst werden können, sondern auf sozialer oder rechtlicher Ebene angegangen werden müssen.
Forschungsgebiete: Philosophie, Medienwissenschaften
Hilfskräfte
Frederik Schauerte, Universität Paderborn
Ehemalige Mitglieder
Dr. Martina Philippi, Wissenschaftliche Mitarbeiterin
Publikationen
Die Ambivalenz von Sichtbarkeit. Ethische Perspektiven auf die digitale Transformation
M. Philippi, in: 2025.
Civic Vice in Digital Governance
W. Reijers, in: Public Governance and Emerging Technologies, Springer Nature Switzerland, Cham, 2025.
Introduction to the Ethics of Emerging Technologies
W. Reijers, M. Thomas Young, M. Coeckelbergh, Introduction to the Ethics of Emerging Technologies, 2025.
How to Govern the Confidence Machine?
P. de Filippi, M. Mannan, W. Reijers, Regulation & Governance (2025).
Explanation needs and ethical demands: unpacking the instrumental value of XAI
S. Alpsancar, H.M. Buhl, T. Matzner, I. Scharlau, AI and Ethics 5 (2025) 3015–3033.
Explainability and AI Governance
W. Reijers, T. Matzner, S. Alpsancar, in: M. Farina, X. Yu, J. Chen (Eds.), Digital Development. Technology, Ethics and Governance, Routledge, New York, 2025.
Warum und wozu erklärbare KI? Über die Verschiedenheit dreier paradigmatischer Zwecksetzungen
S. Alpsancar, in: R. Adolphi, S. Alpsancar, S. Hahn, M. Kettner (Eds.), Philosophische Digitalisierungsforschung Verantwortung, Verständigung, Vernunft, Macht, transcript, Bielefeld, 2024, pp. 55–113.
AI explainability, temporality, and civic virtue
W. Reijers, T. Matzner, S. Alpsancar, M. Philippi, in: Smart Ethics in the Digital World: Proceedings of the ETHICOMP 2024. 21th International Conference on the Ethical and Social Impacts of ICT. Universidad de La Rioja, 2024., Longrono, 2024.
Unpacking the purposes of explainable AI
S. Alpsancar, T. Matzner, M. Philippi, in: Smart Ethics in the Digital World: Proceedings of the ETHICOMP 2024. 21th International Conference on the Ethical and Social Impacts of ICT, Universidad de La Rioja, 2024, pp. 31–35.
Von der Kunst, die richtigen Fragen zu stellen. Das Potential der Phänomenologie für die Technikfolgenabschätzung
M. Philippi, in: TA24, 2024.
Dealing responsibly with tacit assumptions. An interdisciplinary approach to the integration of ethical reflexion into user modeling
M. Philippi, D. Mindlin, in: EASST-4S, 2024.
How to address ethical problems in a multi-perspective context: Interdisciplinary challenges of XAI
M. Philippi, in: Fpet2024, 2024.
Ethics of Explainable AI
M. Philippi, W. Reijers, in: 2024.
Interdisciplinary challenges for XAI ethics and the potential of the phenomenological approach. Gastvortrag am Eindhoven Center for the Philosophy of AI (ECPAI), TU Eindhoven, 25. Juni 2024.
M. Philippi, Interdisciplinary Challenges for XAI Ethics and the Potential of the Phenomenological Approach. Gastvortrag Am Eindhoven Center for the Philosophy of AI (ECPAI), TU Eindhoven, 25. Juni 2024., 2024.
(X)AI ethics for decision support systems. Gastvortrag am DLR Institut für den Schutz maritimer Infrastrukturen, Bremerhaven, 14. November 2024.
M. Philippi, (X)AI Ethics for Decision Support Systems. Gastvortrag Am DLR Institut Für Den Schutz Maritimer Infrastrukturen, Bremerhaven, 14. November 2024., 2024.
Herausforderungen und Potentiale von erklärbarer KI für Technikfolgenabschätzung und Politikberatung
M. Philippi, in: NTA11, 2024.
Transparency and persuasion: Chances and Risks of Explainable AI applications in modeling for policy
M. Philippi, in: SAS24, 2024.
What is AI Ethics? Ethics as means of self-regulation and the need for critical reflection
S. Alpsancar, in: International Conference on Computer Ethics 2023, 2023, pp. 1--17.
Trust and awareness in the context of search and rescue missions
M. Philippi, in: SAS23, 2023.
Alle Publikationen anzeigen