KI-gestützte Gegenrede im Kampf gegen Hass im Netz

Im Rahmen des Ende September abgehaltenen Symposiums "Desinformation im Kontext hybrider Bedrohungen", das von der AIT (Austrian Institute of Technology), der APA (Austria Presse Agentur) sowie dem Bundesministerium für Landesverteidigung organisiert wurde, stellten Djordje Slijepčević und Matthias Zeppelzauer, Forscher am Institut für Creative\Media/Technologies der FH St. Pölten, ihr aktuelles Forschungsprojekt Counter Speech unter dem Titel "Young People Against Online Hate: Leveraging Counter Speech with AI" vor.

Das Symposium brachte Expert*innen aus verschiedenen Bereichen zusammen, um die Herausforderungen und Lösungsansätze im Umgang mit Desinformation und hybriden Bedrohungen zu diskutieren.

"Ein großer Dank geht an die Organisator*innen des Events, die wichtige Partner*innen aus Forschung, Medien und Landesverteidigung zusammen gebracht haben, um sich über die Bedrohungen von Desinformation auszutauschen. Mit unserem Projekt wollen wir einen methodischen Beitrag zur Bekämpfung von toxischen Inhalten in sozialen Medien leisten, der im Einklang mit unseren demokratischen und humanistischen Werten steht", sagt Zeppelzauer.

Gemeinsam gegen Hass im Netz

Counter Speech befasst sich mit der Bekämpfung von Hasspostings und Cyberbullying in sozialen Medien. Da besonders Jugendliche zwischen 12 und 19 Jahren von solchen Angriffen betroffen sind, setzt das Projekt auf "citizen-generated counter speech", bei der Internetnutzer*innen aktiv ermutigt werden, Hasskommentaren durch Zivilcourage entgegenzutreten. Statt lediglich Kommentare zu löschen oder Nutzer*innen zu blockieren, zielt das Projekt darauf ab, die Sichtbarkeit der Gegenrede zu erhöhen und deren Wirksamkeit messbar zu machen.

Das interdisziplinäre Projektteam hinter Counter Speech kombiniert Methoden aus der Informatik, Datenanalyse und aus den Sozialwissenschaften, um Muster erfolgreicher Gegenrede zu analysieren und kontextspezifische Vorschläge zu generieren. Dabei werden sowohl Text als auch visuelle Elemente wie Bilder und Memes einbezogen. Ziel ist es, Jugendliche besser zu unterstützen und zu motivieren, sich aktiv gegen Hass im Netz zu wehren.

• Erfahren Sie hier mehr zum Forschungsprojekt Counter Speech.