IndI: Innovative Interventionen für diskursive Integration

Das BMBF-Projekt „Innovative Interventionen für diskursive Integration (IndI)“ erforscht, wie Online-Diskurse integrativer gestaltet werden können. Das Projekt ist Teil des BMBF geförderten Clusters „Integrierte Forschung“.

Im Mittelpunkt des Projekts stehen Online-Diskussionen, die in den letzten Jahren immer stärker ein Teil unseres Alltags geworden sind. Allerdings hält die oftmals schlechte Qualität dieser Diskussionen viele Menschen davon ab, sich einzubringen. Hinzu treten andere Zugangshürden für bestimmte Bevölkerungsgruppen. Auf Künstlicher Intelligenz (KI) basierende Interventionen könnten dabei sowohl helfen, die Qualität von Online-Diskursen zu verbessern, als auch Zugangshürden abzubauen.

Das aus Sozialwissenschaftler:innen und Informatiker:innen bestehende Projekt-Team möchte dieses Potential erforschen. Dabei wird ein offener Wissenschaftsansatz verfolgt, der einerseits nicht-wissenschaftliche Akteure systematisch in den Forschungs- und Entwicklungsprozess einbindet sowie anderseits die Ergebnisse der Forschung offene kommuniziert und nutzbar macht. In einem ersten Schritt sammeln die Forschenden zunächst gemeinsam mit Bürger:innen, Zivilgesellschaft und Organisator:innen von Online-Diskursen Ideen, was integrative Online-Diskurse ausmacht und wie man bestehende Diskursumgebungen verbessern könnte. Auf Basis dieser Co-Creative-Formate werden dann passende KI-Interventionen entwickelt. Denkbar sind beispielsweise automatisierte Moderation oder Erkennung von Hassrede. Die entwickelten Interventionen werden dann mit Nutzenden getestet und diskutiert. Dieses Feedback wird wiederum in den Forschungsprozess eingespeist, um schließlich eine KI-Anwendung zu entwickeln. Zum Ende der Projektlaufzeit analysiert das Team in einem wissenschaftlichen Experiment, ob die KI-Anwendung tatsächlich zu integrativeren Online-Diskursen führt und was Nutzende aus diesen Diskursen mitnehmen.

Gelingt es, Online-Diskurse mittels KI-Interventionen integrativer zu gestalten, so können diese Interventionen überall dort eingesetzt werden, wo online diskutiert wird: Beispielsweise in sozialen Medien wie Facebook oder unter YouTube-Videos, auf Nachrichtenwebseiten oder im Rahmen von digitalen Öffentlichkeitsbeteiligungsprozessen.

Das zum 1. November 2023 gestartete Projekt ist eins von insgesamt fünf Teilprojekten im 3. Teilcluster „Perspektiven offener Wissenschaften in einer digitalisierten Demokratie“. Die Koordination dieses Clusters ist ebenfalls am DIID angesiedelt und wird von Dr. Katharina Gerl übernommen. Insgesamt beläuft sich die Fördersumme über drei Jahre auf rund 690.000 Euro. Informationen zum Projekt auf der Seite des BMBF finden sich hier.

Förderkennzeichen: 16SV9221