Mentale Modelle sind ein wesentlicher Bestandteil von Erklärungen. So geht der Begriff nicht nur historisch auf philosophische Ausführungen zur "nature of explanation" (Kenneth Craik) zurück, sondern auch im Bereich der ko-konstruktiv orientierten Forschung zu erklärbarer künstlicher Intelligenz (XAI) besteht ein konkreter Bedarf an einer Rekonzeptualisierung solcher Modelle. Die bisherigen Modelle sind zumeist einem symbolischen Paradigma verhaftet (symbolic AI), das sich durch die Ausbreitung konnektionistischer Ansätze, wie sie die aktuelle KI-Entwicklung kennzeichnen, herausgefordert sieht (subsymbolic AI). Damit einhergeht, dass fast immer die Perspektive der Entwickler*innen und deren Vorstellungen von Nutzer*innen von KI-Systemen im Vordergrund steht und meist ein*e universelle*r Nutzer*in modelliert wird. Ungeachtet der situierten und interaktionistischen Auflösung dieses Dilemmas in Form von Partnermodellen (Doyle et al. 2021), ist es für die Entwicklung von erklärbaren KI-Systemen jedoch unumgänglich auch auf konzeptioneller Ebene einen ko-konstruktiven Ansatz zu entwickeln, der mit einer Rekonzeptualisierung mentaler Modelle auf der Makroebene einhergeht, indem die Bedürfnisse und Anliegen der Nutzer*innen gleichberechtigt mit denen der Entwickler*innen integriert werden.

Das Forschungsprojekt zielt genau hierauf ab, indem es das aus der medienwissenschaftlichen Forschung stammende Konzept des „algorithmic imaginary“ (Bucher 2017) als Ausgangspunkt nimmt und hierauf aufbauend symmetrische und inklusive mentale Modelle für erklärbare KI entwickeln möchte. Dies geschieht in zwei Teilen: Einerseits werden mediengenealogisch die Entwicklungs- und Rezeptionslinien dieses aus der Kognitionswissenschaft stammenden Konzepts in der Informatik und Human-Computer Interaction nachgezeichnet. Hierdurch soll wissenshistorisch nachvollzogen werden können, wie und warum sich ein Entwickler*innen-Bias bis heute in Konzepte mentaler Modelle fortschreibt. Andererseits soll empirisch anhand einer Meta-Forschung einzelner Projekte des TRR erprobt werden, wie solche symmetrischen und inklusiven mentalen Modelle aussehen könnten. Hierbei sollen insbesondere die Vorstellungswelten (imaginaries) von alltäglichen Nutzer*innen im Zentrum stehen.

Das Forschungsprojekt hat das Ziel, das zentrale Paradigma der Ko-Konstruktion innerhalb des TRR im Hinblick auf eine wechselseitige Modellierung von Entwickler*innen, KI-Systemen und Nutzer*innen auch jenseits von Partnermodellen auf einer Makroebene zu gewährleisten. Zudem soll so ermöglicht werden, Ko-Konstruktion auch auf konzeptioneller Ebene multiperspektivisch zu denken, was im Einklang mit neueren Bestrebungen im Bereich der Designforschung steht, wo seit geraumer Zeit ein Paradigmenwechsel von einem "human-centered design" (Norman 2004) hin zu einem "more than human-centered design" (Wakkary 2021; Coskun et al. 2022) oder gar einem "humanity-centered design" (Norman 2023) gefordert wird.