Social Media Die Waffe der Autokraten
Populisten und Autokraten weltweit nutzen Social Media immer raffinierter, um Demokratien anzugreifen. Whistleblower warnen vergebens. Ihr Vorwurf: Tech-Konzerne und Politik unternehmen immer noch zu wenig dagegen.
Als Rechtspopulisten in Brasilien jüngst das Regierungsviertel stürmten, geriet wieder eine große Demokratie an den Rand des Umsturzes. Es erinnerte an den Sturm auf das Kapitol in den USA zwei Jahre zuvor. Wieder waren die Übergriffe in den Sozialen Netzwerken angeheizt worden. Wieder heißt es von Tech-Konzernen im Nachhinein, man habe viele Konten gelöscht. Offenbar wieder zu spät. Wie kann das sein?
Hass und Hetze, Wahlen manipulieren, Verschwörung verbreiten: Populisten und Autokraten weltweit bespielen die Klaviatur der Sozialen Medien immer raffinierter, immer effektiver.
Dabei hatte die Facebook-Whistleblowerin Frances Haugen genau davor gewarnt. Mit Tausenden Dokumenten aus dem Innern des Konzerns erregte sie im Herbst 2021 weltweit Aufsehen und erhob schwere Vorwürfe: Metas mächtige Plattformen würden Menschen und Demokratien weltweit gefährden, der Konzern wissen genau, welchen Schaden er anrichtet, stelle aber den Profit über das Wohl seiner Nutzer.
Weder gelöscht noch gesperrt
Reporterinnen und Reporter von WDR, NDR und SZ haben ihre Facebook-Files erneut ausgewertet. Die neue Datenanalyse zeigt: Zahlreiche Gruppen, Netzwerke oder Accounts, die Mitarbeiter von Facebook intern schon vor Jahren als schädlich gelistet hatten, waren immer noch aktiv. Meta hatte sie weder gelöscht noch gesperrt. Der Konzern äußert sich dazu nicht.
Frances Haugen ist vom Ergebnis der Recherche betroffen: "Mein Gott, das ist erstaunlich". Im ARD-Interview kritisiert sie, der Konzern habe seit Jahren zu wenig in den Bereich Desinformation investiert.
Meta bestreitet das. Meta-Sprecher Klaus Gorny verweist im November letzten Jahres in einem Interview mit WDR und NDR auf weltweit 40.000 Mitarbeiter im Sicherheitsbereich und Investitionen von fünf Milliarden Dollar allein im letzten Jahr. Doch das ist offenbar immer noch zu wenig für die Flut von Posts und Videos der knapp drei Milliarden User auf der immer noch größten Plattform der Welt.
Denn wenige Monate nach dem Interview stürmen in Brasilien Anhänger des abgewählten Präsidenten Bolsonaro das Regierungsviertel. Die Übergriffe wurden in Sozialen Netzwerken angeheizt und organisiert - auch auf Facebook. Meta sagt, man habe rund um die Wahl in Brasilien ständig regelverletzende Inhalte gelöscht. Doch wie ernst nimmt Meta seine Verantwortung tatsächlich für die Attacken auf die Demokratie?
Im großen Stil Oppositionelle fertig gemacht.
Die ehemalige Facebook-Mitarbeiterin Sophie Zhang berichtet, dass sie 2019 massenweise Fake-Accounts enttarnt hatte von politischen Akteuren, die sich auf Facebook hinter falschen Namen versteckten und dort Stimmung machten. Allein "die Regierung von Aserbaidschan etwa hatte wahrscheinlich Zehntausend Fakeaccounts. Damit haben sie im großen Stil Oppositionelle und Kritiker fertig gemacht." Meta verweist darauf, man habe später zahlreiche Fake-Accounts gelöscht.
Und die Aserbaidschanische Regierungspartei bestreitet, Fakeaccounts überhaupt genutzt zu haben. Tatsächlich findet Zhang beim Interview mit den WDR/NDR-Reporterinnen und Reportern auf einer Facebookseite mit Nachrichten über Aserbaidschan spontan wieder zahlreiche aserbaidschanische Accounts, die nach dem gleichen Muster funktionieren.
Facebook betont, die Bekämpfung von unauthentischen Accounts habe Priorität für den Konzern. Aber bereits nachdem sich russische Trolle mit Fakeaccounts massiv in den US-Wahlkampf 2016 eingemischt hatten, hatte Facebook versichert, alles dagegen zu tun. Doch auch die russische Propaganda mit ihren Trollfabriken und Fakeaccounts ging weiter, zeigen die Recherchen.
Für Frances Haugen ist Facebooks Geschäftsmodell Kern des Problems: Facebook verkaufe personalisierte Werbung, mit denen Werbetreibende potentielle Kunden gezielt erreichen können. Dazu sammele der Konzern möglichst viele intime Daten seiner Nutzer. Je länger die Nutzer auf der Plattform bleiben, desto mehr Daten für den Anzeigenverkauf könne Facebook sammeln und so mehr Profit erzielen.
Damit Menschen besonders lange auf der Plattform bleiben, begünstige Facebooks Algorithmus das, worauf Menschen am meisten reagieren: Emotionale Inhalte. Dazu gehörten auch Hetze, Verschwörung und Lügen.
Mehr Reichweite durch Emotionen
"Es gibt Studien darüber, die belegen, dass sachliche Inhalte zehn Mal weniger Reichweite erzeugen auf Facebook als emotionale Inhalte. Und Lügen sind in der Regel emotionaler als Fakten, Und das heißt eben auch, dass Lügen eine bessere Chance auf Aufmerksamkeit haben als Fakten", erklärt auch Kommunikationsexperte Johannes Hillje. Dieses Prinzip würden populistische und auch radikale Akteure ausnutzen.
Die "New York Times"-Journalistin und Buchautorin Cecilia Kang berichtet, dass Facebook vor der letzten US-Wahl den Algorithmus geändert habe. Dieser "nette Newsfeed" habe dann Informationen aus Qualitätsmedien bevorzugt. "Es gab weniger Falschinformationen. Was aber auch geschah, war, dass die Nutzerzahlen zurückgingen. Es gab weniger Interaktion auf der Plattform." Nach der Wahl habe Facebook wieder auf den alten Algorithmus umgestellt, der polarisierende Inhalte fördere. "Sie hatten also die Wahl und entschieden sich für die Nutzerzahlen."
In den "Stop the Steal-Gruppen" auf Facebook hätten sich dann radikale Trump-Anhänger angeheizt und organisiert. Zwei Monate danach gab es den Sturm auf das Kapitol. Meta sperrte daraufhin Donald Trumps Account und betonte, man habe damals sehr schnell Inhalte entfernt, die zum Sturm aufs Kapitol aufgerufen hätten.
Europa reagierte. Im Frühjahr 2022 verabschiedete die EU ein Mega-Gesetz, das die großen Plattformen umfassend regulieren soll - den sogenannten Digital Services Act, kurz DSA. Unter anderem müssen die Tech-Unternehmen ab jetzt zumindest illegale Inhalte zügig löschen. Andernfalls drohen hohe Geldstrafen. Wissenschaftler sollen die Algorithmen einsehen dürfen.
Für den Whistleblower Christopher Whylie geht das alles nicht weit genug: "Warum testen wir das Verhalten von Algorithmen nicht, bevor wir sie für die Öffentlichkeit freigeben? Ich muss die Sicherheit eines Kühlschranks oder eines Toasters testen, bevor ich ihn verkaufen darf. Wie kann es also sein, dass eine Plattform Algorithmen verwenden kann, die überall Desinformationen verbreiten, ohne sie vorher zu testen?"
Verbot personalisierter Werbung fehlt
Und es fehlt etwas im neuen Gesetz: das Verbot von personalisierter Werbung. 2020 hatte das EU-Parlament noch mehrheitlich dafür votiert. Denn Populisten nutzten personalisierte Werbung immer wieder systematisch, um extreme Botschaften und Verschwörungserzählungen gezielt an dafür empfängliche Wähler zu schicken. Doch ein Verbot personalisierter Werbung träfe das Geschäftsmodell der Tech-Giganten ins Herz und damit ihre Milliardenumsätze. Es folgte eine beispiellose subtile Lobby-Kampagne.
Die Strategie: Nicht ihre eigenen Milliardenumsätze seien bedroht, sondern die von kleinen und mittelständischen Unternehmen - gerade in der Pandemie ein einprägsames Narrativ. In Brüssel änderte sich prompt die Stimmung: Etwa ein Jahr nach dem ursprünglichen Vorschlag fand sich plötzlich keine Mehrheit mehr für ein Verbot von personalisierter Werbung. "Dazu gab es am Ende keine Mehrheiten, weder im Rat noch im Parlament selbst", resümiert Phrabat Agarwal, zuständiger Beamter in der EU-Kommission. "Da hat Lobbying natürlich eine Rolle gespielt."
Jetzt gibt es einen neuen Vorstoß des Europaparlamentes: Wenigstens bei politischer Werbung sollen alle persönlichen Daten nur noch mit ausdrücklicher Zustimmung der User verwendet werden. Doch mehrere Mitgliedsstaaten sind bereits dagegen.
Und ein anderer Punkt ist für Demokratien gefährlich. Facebook bekräftigt noch einmal, dass Aussagen von Politikern nicht auf Fakten geprüft und nicht entfernt würden, auch nicht wenn sie falsch sind oder gegen Facebooks Regeln verstoßen. "Lügen ist ein Thema. Das ist nicht schön", sagt Meta-Sprecher Klaus Gorny im Interview mit WDR und NDR. "Es ist aber auch nicht verboten in unserer Gesellschaft, deswegen: Auch hier sind wir nicht der Auffassung, dass wir die Richter sein sollten über wahr oder falsch."
Ein Freibrief für Autokraten?
Ein Freibrief für Autokraten und Populisten, sagen Kritiker. Auch für Trumps nächsten Wahlkampf. Meta hat seine Sperre Anfang des Jahres bereits wieder aufgehoben. Whistleblower Whylie sieht insgesamt schwarz und befürchtet, "dass wir in einen ständigen Zustand der Informationskriegsführung eintreten. Dass unsere Wahlen nun Schlachtfelder sind, auf denen Länder gezielt Desinformation verbreiten, um geopolitische Ziele zu erreichen."