Erster Platz bei Erkennung von Sexismus im Netz

Researcher des IC\M/T (FH St. Pölten) und des AIT Austrian Institute of Technology haben im Rahmen des internationalen EXIST Benchmarks (sEXism Identification in Social neTworks) Methoden entwickelt, die die automatische Erkennung von sexistischen Äußerungen in Tweets ermöglicht, und dabei hervorragende Ergebnisse in mehreren Kategorien erzielt.

Wir gratulieren herzlich!

Erkennung & Klassifizierung sexistischer Äußerungen

Sexismus ist ein weitreichendes gesellschaftliches Problem und hat insbesondere in den sozialen Medien stark zugenommen. Dabei werden insbesondere Frauen, die in der Öffentlichkeit stehen, vor große Herausforderungen gestellt, wie aktuelle Studien zeigen. Soziale Medien treten hier als Beschleuniger auf und senken die Hemmschwellen für verbale Übergriffe.

Der EXIST 2023 Benchmark befasste sich mit der Erkennung und Klassifizierung sexistischer Inhalte in Social-Media-Texten in Englisch und Spanisch. Das Team hat schon 2021 im Rahmen des EXIST Benchmarks eine Methode entwickelt, die die automatische Erkennung von sexistischen Äußerungen ermöglicht und dabei den dritten Platz belegt. "Die Aufgabenstellungen heuer waren ein wenig komplexer als 2021", erzählt Djordje Slijepčević, Researcher in der Forschungsgruppe Media Computing am IC\M/T. "Wir freuen uns daher ganz besonders, dass wir in 2 von 3 Tasks einmal den 1., den 2. und den 3. Platz belegen konnten."

Die Tasks der EXIST 2023

• Task 1: Binäre Erkennung von Sexismus: die Systeme müssen entscheiden, ob ein bestimmter Tweet sexistische Ausdrücke oder Verhaltensweisen enthält oder nicht.
• Task 2: Ternäre Klassifizierung des sexistischen Inhalts entsprechend der Absicht der Autor*innen.
  Platzierung FH St. Pölten/AIT: 1. Platz für spanische Inhalte & 2. Platz für spanische und englische Inhalte
• Task 3: Multilabel-Klassifizierung des sexistischen Inhalts in eine oder mehrere der folgenden Kategorien: Ideologie und Ungleichheit, Stereotypisierung und Dominanz, Objektifizierung, Misogynie und nicht-sexuelle Gewalt.
  Platzierung FH St. Pölten/AIT: 3. Platz für spanische und englische Inhalte

Lesen Sie hier detailliert die Beschreibungen der einzelnen Tasks.

Unser Team beim EXIST 2023

Das Team umfasst folgende Kolleg*innen der FH St. Pölten und des AIT:

• Andreas Babic (FHSTP)
• Jaqu Böck (FHSTP)
• Daria Liakhovets (AIT)
• Nathanya Queby Satriani (FHSTP)
• Alexander Schindler (AIT)
• Mina Schütz (AIT)
• Djordje Slijepčević (FHSTP)
• Matthias Zeppelzauer (FHSTP)

Die Konferenz CLEF 2023 (Conference and Labs of the Evaluation Forum), bei der die einzelnen Beiträge präsentiert werden, findet im September in Thessaloniki (Griechenland) statt.

Sichtbar gegen Hass-Postings auftreten

"Die Methoden, die wir für den EXIST 2023 entwickelt haben, sind im WWTF finanzierten Projekt Counter Speech - Young People Against Online Hate entstanden und können dort in abgewandelter Form (für deutsche Inhalte) verwendet werden", so Djordje Slijepčević.

Das Projekt beschäftigt sich mit der Entwicklung computergestützter Strategien zur Unterstützung von Gegenrede (citizen-generated counter speech) in sozialen Medien und leistet so einen neuen Beitrag, um Hass im Netz beizukommen. Herkömmliche Maßnahmen wie das Entfernen von Kommentaren oder das Ausschließen von Personen aus sozialen Netzwerken oder Flagging von Hass-Postings bringen nicht die gewünschten Erfolge, engagierte Nutzer*innen fühlen sich oft macht- und hilflos oder wissen nicht, wie sie auf unangemessene Äußerungen angemessen reagieren sollen, ohne womöglich sogar selbst zum Opfer zu werden. 

Hier setzt das Projekt "Counter Speech" an: Um junge Leute darin zu bestärken, Widerspruch zu erheben, setzt das Projektteam auf automatischen Methoden zur Datenanalyse und Datengenerierung. Die Sichtbarkeit von engagierten jungen Nutzer*innen, die gegen Hass-Kommentare auftreten, soll erhöht und die Wirksamkeit ihrer Botschaften messbar gemacht werden.