Neue KI enttarnt Manipulatoren auf Instagram

Nutzer-Netzwerke tricksen Algorithmus mit gegenseitiger Interaktion geschickt aus. [...]

Forscher der New York University haben durch ein neues Machine-Learning-Tool versteckte Netzwerke von Instagram-Usern entlarvt, die den Algorithmus der Social-Media-Plattform manipulieren und so die Popularität von Inhalten und Accounts künstlich aufblähen. Die Mitglieder dieser Gruppen, die auch „Pods“ genannt werden, interagieren wechselseitig miteinander und tricksen das soziale Netzwerk so problemlos aus.

„Netzwerke schwer zu erkennen“

„Instagram Pods gibt es schon ziemlich lange, diese Gruppen sprechen sich miteinander ab, geben sich gegenseitig falsche Popularität. Der Algorithmus hebt vor allem Inhalte mit hoher Interaktionsraten hervor, weswegen einige User zu solchen Tricks greifen. Wenn sie geschickt organisiert sind und nicht nach bestimmten Mustern handeln, sind solche Netzwerke für den Algorithmus schwer zu erkennen“, sagt Social-Media-Experte Felix Beilharz im pressetext-Interview.

Tipp: „KI-Praxis im Unternehmen“, virtuelle Konferenz vom 26.-28.5. mit 52 Sprechern und Ausstellungsbereich. Kostenlos anmelden.

Das Forscher-Team hat Machine Learning für die Analyse von 1,8 Mrd. Instagram-Postings von 111.455 verschiedenen Accounts genutzt. Dabei entdeckten die Experten nicht nur, dass Instagram-Pods nicht nur die Sichtbarkeit von Postings stärken, sondern darüber hinaus auch echte, organische Interaktionen mit ihnen auslösen.

Einfacher Zugang zu den Pods

Insgesamt 70 Prozent der Instagram-Nutzer, die Pods beitraten, erfuhren danach zumindest eine Verdoppelung der Interaktion. Bei den entdeckten Pods handelt es sich um Netzwerke von 900 bis hin zu 17.000 Usern. Es ist sehr leicht, Teil dieser Netzwerke zu werden, nur vier Prozent der Pods erfordern dafür eine Mindestzahl an Followern.

„Die meisten Versuche, das System auszutricksen, beinhalten automatisierte Techniken wie Bots. Social-Media-Unternehmen sind mittlerweile besser bei der Bekämpfung solcher Angriffe. Pods dagegen sind schwieriger zu entdecken, weil Menschen darin manuell agieren“, erklärt Janith Weerasinghe, Koautorin der Studie. Mit Machine Learning sei aber die Entwicklung von Tools möglich, die solche Manipulation aufdecken.