Hetzkampagnen aus Hanois Hinterhöfen

Das Video zeigt eine Wand voller kleiner Bildschirme, verkabelt, mit langsam wechselnden Anzeigen, als würde auf den Screens heruntergescrollt. Ein Rechercheteam von Arte wurde neugierig. Das Video führte die JournalistInnen nach Vietnam. Dort entdeckten sie eine ganze Industrie für die Manipulation von Plattformen wie Facebook oder Tiktok.

Gutes Geld für Nerds

Die Kernstücke des Geschäfts sind sogenannte «Phone-Farms». Dies sind Zusammenschlüsse dutzender Smartphones, die dadurch mit wenigen Klicks programmiert und ferngesteuert werden können. Für diese Maschinen kursieren in Vietnam Bausätze. Sie können aber auch von einem Tüftler fertig zusammengebaut gekauft werden. Ein britischer Fotograf veröffentlichte schon vor eineinhalb Jahren Bilder aus den kleinen, meist von jungen Vietnamesen betriebenen Geschäften.

Die Nerds verdienen gutes Geld und benutzen die Installationen, um auf Plattformen wie Tiktok, Facebook oder Youtube Interaktionen zu generieren: Likes, Comments oder Shares. So können bestimmte Meinungen in die Welt gesetzt, verbreitet und als besonders populär dargestellt werden – und dies mit wenigen Klicks.

Dafür braucht es gefälschte, aber möglichst authentisch erscheinende User-Profile. Das Arte-Team machte den Selbstversuch und demonstrierte so, wie einfach die automatisierte Kontrolle der Plattformen umgangen werden kann. Es fand heraus: In Vietnam existieren dutzende Websites, welche gefälschte Social-Media-Profile, sogenannte «clones», also «Klone», anbieten.

Diese Profile werden von den Plattformen nicht als gefälscht erkannt, weil sie das Verhalten echter User im Netz genügend gut imitiert haben. Gefälschter Datenverkehr von Smartphones wird besonders schlecht entlarvt. Diese sind durch Programme gesteuert, die ihnen vorgeben, welche Sites sie besuchen, welchen echten Usern sie folgen und welche Posts sie wie kommentieren, liken oder teilen sollen. Dieser «Trainingsverkehr», so wird im Beitrag geschätzt, macht heute etwa einen Drittel des weltweiten Datenverkehrs aus. Je länger diese «Bots» aktiv sind, je häufiger sie interagieren, desto echter erscheinen sie den Plattformen.

3000 Likes und 300 Kommentare für fünf Euro

Und dann können sie zum Einsatz kommen. Das Arte-Team kaufte auf einer vietnamesischen Website für fünf Euro 3000 Likes und 300 positive Kommentare für ein selbstgemachtes Video einer Katze. Die Kommentare musste es selbst liefern, aber auch dies geht mit ChatGPT im Handumdrehen. Dann übernahmen die Bots den Rest. Hunderte verschiedene falsche, aber genügend echt erscheinende User schrieben, wie süss die Katze sei, und likten das Video auf Youtube. 80 Prozent der gefälschten Kommentare rutschten durch die Kontrolle der Plattform.

Für dieses Geschäft brauchen die vietnamesischen Anbieter laufend neue User-Konten. Weil echte User-Konten am leichtesten durch die Kontrollen schlüpfen, existiert deshalb auch ein Geschäft mit gehackten Konten echter Menschen. Das Arte-Team zeigt, wie ein Hacker das Facebook-Konto einer französischen Komödiantin mit fast einer Million FollowerInnen in Beschlag nimmt und den Account anschliessend auf einem Telegram-Kanal versteigert – für über 900 Euro.

Politische Hetzkampagnen – automatisiert zum Discountpreis

Doch die Bots bedienen nicht nur private Eitelkeiten. Die Maschinen können auch für koordinierte politische Manipulationskampagnen zum Einsatz kommen. Im August 2024 verkündete der Meta-Konzern, dass er verschiedene Konten einer koordinierten Aktion aus Vietnam deaktivierte, die sich gegen Katar richtete. Damit sollte im Libanon, in Grossbritannien, Frankreich und den USA die öffentliche Meinung beeinflusst werden. Die Hetzkampagne warf Katar unter anderem vor, islamistischen Terror zu unterstützen und Europa vernichten zu wollen.

Und vor knapp einem Jahr deckten Recherchen des Bureau of Investigative Journalism eine Anti-Ukraine-Kampagne auf, die sich an linke und rechte WählerInnen in Grossbritannien richtete. Die Auftraggeber sassen in Nigeria und Serbien. Die Mehrheit der über 200’000 dafür benutzten Fake-Accounts stammte aus Vietnam. Auch eine Pro-Israel-Kampagne im Mai 2024, die auf User in den USA und in Kanada abzielte, ging ähnlich vor.

In Vietnam mag es ein offenes Geschäft dafür geben. Doch Berichte über Klickfarmen gibt es schon länger auch aus Ländern wie den USA. Und entsprechende Manipulationskampagnen finden auch in Europa statt. Letztes Jahr enthüllte der schwedische TV-Sender «TV4» mittels verdeckter Recherche, wie die nationalkonservativen Schwedendemokraten gefälschte Accounts benutzten, um die öffentliche Meinung zu beeinflussen. Das Unterfangen wurde gar parteiintern «Trollfabrik» genannt (Infosperber berichtete).