Extremisten im Social Web vorhersehbar

Indem sie ihre Social-Media-Accounts überwachen wollen amerikanische Forscher Extremisten und gefährliche Personen ausfindig machen, noch bevor diese bedrohliche Inhalte veröffentlichen. [...]

Es klingt schon sehr dystopisch, woran Forscher des Massachusetts Institute of Technology (MIT)  in Zusammenarbeit mit der US Army und Kollegen der Brandeis University  arbeiten: nämlich über die Überwachung von Social-Media–Accounts Extremisten und gefährliche Personen erkennen, noch bevor diese bedrohliche Inhalte veröffentlichen.

Inhalte gezielt einschränken

„Soziale Medien sind zu einer mächtigen Plattform für extremistische Gruppen geworden, die vom IS bis hin zu weißen nationalistischen ‚Alt-Right‘-Gruppen reichen“, betont MIT-Studienautor Tauhid Zaman vom Massachusetts Institute of Technology. Die Forscher haben für ihre Arbeit Twitter–Daten von ungefähr 5.000 Nutzern untersucht, die entweder prominente IS-Mitglieder waren oder mit vielen bekannten IS-Mitgliedern in Kontakt standen. Die Forscher erhielten deren Namen etwa durch Nachrichten, Blogs und Berichte von Strafverfolgungsbehörden.

Neben dem Überprüfen der Inhalte von rund 4,8 Mio. Tweets aus den Zeitleisten dieser Nutzer, wurden auch die Kontosperrungen sowie alle Suspendierungen ihrer Freunde und Follower-Accounts von den Forschern verfolgt. Durch eine statistische Modellierung extremistischen Verhaltens mit optimierten Suchstrategien und tatsächlichen IS-Benutzerdaten entwickelten die Forscher eine Methode, um neue extremistische User vorherzusehen, also zu erkennen, ob mehr als ein Konto demselben Nutzer gehört, sowie Netzwerkverbindungen von suspendierten extremistischen Benutzern vorauszusagen, die einen Account eröffnen könnten.

Auf alle Netzwerke anwendbar

„Wir haben eine neue Reihe von operativen Fähigkeiten geschaffen, um der Bedrohung durch Online-Extremisten in sozialen Netzwerken zu begegnen. Wir können voraussagen, wer ein Extremist ist, bevor er Inhalte veröffentlicht, und können dann vorhersagen, wo er nach einem Rausschmiss wieder ins Netzwerk gelangt. Kurz gesagt, wir können automatisch herausfinden, wer ein Extremist ist und ihn von sozialen Netzwerken fernhalten“, erklärt Christopher E. Marks von der US Army.

Obwohl sich die Forschungsarbeit zunächst auf Daten von Twitter beschränkte, soll es auch möglich sein, die Methode auf jedes beliebige soziale Netzwerk anzuwenden. „Benutzer, die in irgendeiner Form Online-Extremismus oder Belästigung betreiben, werden in sozialen Netzwerken sehr ähnliche Verhaltensmerkmale aufweisen. Sie werden neue Accounts erstellen, die ihren alten Accounts nach der Suspendierung ähneln, und wenn die Rückkehr in das soziale Netzwerk nach einer Verbannung erfolgt, ist es sehr wahrscheinlich, dass sie sich wieder mit bestimmten ehemaligen Freunden verbinden“, resümiert Forscher Jytte Klausen von der Brandeis University abschließend.