Auf der diesjährigen re:publica wurden DIID-Mitglied Lena Wilms und DIID-Alumna Anke Stoll im Rahmen eines Ideenwettbewerbs „Civic Innovation Platform“ für ihre Idee zur Entwicklung eines Ansatzes zur Analyse und Reduktion von Diskriminierung in KI-Sprachmodellen ausgezeichnet.
Die Idee entstand in Kooperation mit dem DIID-Partner Liquid Democracy e.V. Der vom Bundesministerium für Arbeit und Soziales ausgelobte Ideenwettbewerb ist mit 20.000 Euro dotiert. Diese Prämie erhält die Gruppe als Anschubfinanzierung, um ihr Projekt „KI-gestützte Moderation von Online-Diskussionen diskriminierungsarm gestalten“ (kurz: „KI-MoDi“) weiterzuentwickeln. KI-MoDi basiert auf KOSMO – ein Projekt, welches aus einer Kooperation des DIID, Liquid Democracy e.V., dem Institut für Partizipatives Gestalten und der Forschungsgruppe Deliberative Diskussionen im Social Web (DEDIS) an der HHU entstanden ist. Die DIID-Mitglieder Katharina Gerl, Anke Stoll, Lena Wilms und Marc Ziegele arbeitete bis April 2023 gemeinsam in diesem Projekt.
„KOSMO“ steht für „KI-gestützte kollektiv-soziale Moderation von Online-Diskursen“. Zentral ging es dabei um die Entwicklung eines KI-gestützten Systems, welches Moderator:innen von digitalen Diskussionsplattformen bei der Evaluation einzelner Beiträge und der Verbesserung der allgemeinen Diskussionsqualität helfen soll. Die KOSMO-KI fungiert dabei unterstützend für die Moderator:innen, indem sie eingehende Beiträge nach verschiedenen Kriterien markiert. Dafür wurde die KI mit umfangreichen Trainingsdaten aus verschiedenen Online-Diskussionen trainiert. So ist KOSMO unter anderem in der Lage, toxische Kommentare und unfundierte Behauptungen zu erkennen.
Wir freuen uns sehr, dass die Arbeit unserer Mitglieder und Kooperationspartner:innen durch einen solchen Preis gewürdigt wird und hoffen auf viele weitere fruchtvolle Kooperationen.