Fake News automatisch erkennen

Armin Kirchknopf, Junior Researcher an der Fachhochschule St. Pölten und Absolvent des Studiengangs Interactive Technologies, hat im Rahmen seiner Abschlussarbeit und eines Forschungsprojekts einen automatischen Detektor für Fake News entwickelt.

Das Programm ordnet Meldungen durch das Auswerten von Texten, Bildern und anderen Informationen aus Social Media ein und nutzt dabei Verfahren der Künstlichen Intelligenz.

Gleich den Podcast mit Armin Kirchknopf über "Fake News" anhören. 

Manuelle Identifikation ist aufwendig

Im Internet und auf Sozialen Medien sind Fake News oft nur schwer von wahren Nachrichten zu unterscheiden. Mitarbeiter*innen von Rechercheplattformen investieren mitunter viel Zeit, um Licht ins Dunkel zu bringen.

Armin Kirchknopf, Absolvent des Masterstudiums Interactive Technologies und Forschungsassistent der Forschungsgruppe Media Computing am Institut für Creative\Media/Technologies der FH St. Pölten, entwickelte in seiner Masterarbeit „Automated Identification of Information Disorder in Social Media from Multimodal Data“ Methoden, mit denen potentielle Fake News – zumindest in einem ersten Schritt – automatisch erkannt werden können.

"Die manuelle Identifikation von Fake News bzw. von Gerüchten ist eine sehr anspruchsvolle Aufgabe und selbst für Expertinnen und Experten schwierig. Angesichts der stetig wachsenden Datenmengen stellte ich mir die Frage, ob Fake News durch Datenanalyse auch automatisch erkannt und bewertet werden können“, sagt Kirchknopf.

Viele Aspekte und Kontext sind entscheidend

Ansätze dazu gab es bereits, doch bestehende Methoden konzentrierten sich meist auf eine Art von Daten (z. B. Text) und eine begrenzte Menge an Datensätzen. Kirchknopfs Fake-News-Detektor kombiniert eine Vielzahl an Informationen: etwa Texte, Bilder und Kommentare.

Aber auch weitere sogenannte Meta-Informationen aus den sozialen Medien nutzt Kirchknopf. Dazu gehören etwa die Information, ob Nutzer*innen verifiziert sind, zustimmende oder ablehnende Beurteilungen eines Beitrags, das Teilen des Beitrags und die Anzahl der Kommentare.

Basierend auf einem Datensatz mit mehr als 1 Million Einträgen von der Plattform reddit.com entwickelte Kirchknopf eine automatische Methode für die Erkennung von potentiellen Falschnachrichten. Prinzipiell ist der Detektor auch auf andere Plattformen übertragbar, wenn man ihn anpasst.

Kirchknopf baute seinen Fake-News-Detektor auf Basis neuronaler Netzwerkmodelle aus dem Bereich der Künstlichen Intelligenz sowie auf Methoden des Natural Language Processing (NLP) und der Computer Vision auf. Ziel war ein lernfähiges System, das sich an neue Themen anpasst und Metadaten aus Social Media verwendet, um das Erkennen der Fake News zu verbessern.

Menschliches Urteil nicht ersetzbar

Das Ziel von Kirchknopfs Arbeit war es, eine Methode zu schaffen, die es Nutzer*innen von Social-Media-Kanälen ermöglicht, News schnell als Fake oder wahr zu identifizieren. Eine Nachricht muss aber nicht zu hundert Prozent falsch sein oder kann auch nur dazu dienen, die öffentliche Meinung in eine bestimmte Richtung zu verschieben oder etwas zu diskreditieren.

Kirchknopf wies darauf hin, dass die Nachrichten oftmals in mehrere Kategorien fallen können.

„Es geht nicht nur um wahr oder falsch. Fake News sind nicht nur schwarz oder weiß. Das Programm soll einen Kontext liefern, um Beiträge schnell einordnen zu können. Oft gibt es auch nur die Einstufung als ‚wahrscheinlich Fake‘. Um in die Tiefe zu gehen, braucht es Recherche und weitere große Datensätze. Am Ende ist immer noch der gesunde Menschenverstand entscheidend“, so Kirchknopf.

Podcast zum Fake-News-Detektor

Hören Sie, was Armin Kirchknopf im Campus Talk über den Fake-News-Detektor berichtet. 

Projekt Fake News Detection

Das Projekt wurde mit einem Stipendium von der Internet-Förderinitiave netidee gefördert.

• Projektwebseite bei netidee