Gekaufte Klicks

30. April 2022

Soziale Medien dulden noch immer massenhaft gekaufte Klicks. Ein NATO-Forschungszentrum hat ermittelt, wie sich Facebook, Instagram, TikTok und Co. im Kampf gegen solche Manipulation schlagen. Wir analysieren die Ergebnisse. 

Ein paar Euroscheine, sprudelnde Likes
Für eine Handvoll Euro sprudeln manipulierte Likes (Symbolbild) – Geldscheine und Likes: Pixabay; Montage: netzpolitik.org

Es ist immer noch sehr einfach, manipulierte Interaktionen auf sozialen Medien zu kaufen. Dieses Fazit zieht ein NATO-nahes Forschungszentrum aus einer am Mittwoch veröffentlichen Analyse. Untersucht wurden Facebook, Instagram, Twitter, YouTube, TikTok und die russischen Facebook-Alternative VKontakte.

Nach wie vor verticken Like-Händler:innen im Internet für wenige Euro Kommentare, Follower:innen, Likes und Views. Interessierte können sich damit auf allen gängigen Social-Media-Plattformen den Anschein von Popularität kaufen. Dahinter steckt ein Wettrüsten zwischen Plattformen und Like-Händler:innen. Während Plattformen solche Manipulation offiziell verbieten, nutzen Like-Händler:innen für ihr Geschäft Schlupflöcher.

Einen Einblick in dieses Wettrüsten liefert nun das NATO Stratcom COE. Die Abkürzung steht für Strategic Communications Centre of Excellence. Das Zentrum ist nach eigenen Angaben nicht Teil der NATO-Kommandostruktur und keiner anderen NATO-Einheit unterstellt.

Tausende Likes gekauft

Grundlage der Analyse war eine Stichprobe. Die Forschenden haben für insgesamt 279 Euro manipulierte Interaktionen in sozialen Medien gekauft. Dafür haben sie gerundet 1.400 Kommentare bekommen, 14.0000 Likes, 93.000 Views und 5.800 Shares. Dann haben sie geschaut, woher diese gekauften Interaktionen stammen. So konnten sie rund 9.800 verdächtige Accounts ausmachen. Die Forschenden haben unter anderem beobachtet, ob und wie schnell die Plattformen die gekauften Interaktionen wieder entfernen.

Ergebnis: Wer in diesem Umfang Interaktionen kauft, darf sie wohl eine Weile behalten. Die überwiegende Mehrheit von 92 Prozent der gekauften Interaktionen sei nach vier Wochen noch da gewesen, wie die Forschenden berichten. Praktisch bedeute das, wer etwa 1.000 Likes für eine:n Politiker:in oder ein Restaurant kaufe, habe nach einem Monat noch 920 Likes übrig.

Eine Stichprobe von jeweils 50 bis 150 Accounts haben die Forschenden aktiv bei den Plattformen gemeldet. Damit wollten sie überprüfen, ob die Accounts zumindest nach einem ausdrücklichen Hinweis auf Manipulation gelöscht werden. In den ersten zehn Tagen seien je nach Plattform aber nur bis zu zehn Prozent der gemeldeten Accounts gelöscht worden – also sehr wenig.

NATO-nahe Forschende befürchten politische Einflussnahme

Eine ähnliche Analyse hatte das Forschungszentrum bereits für das Jahr 2020 gemacht. Die neuen Beobachtungen würden sich nicht dramatisch von den alten unterscheiden, heißt es. Aber Manipulation auf sozialen Medien sei im Durchschnitt schneller und günstiger geworden.

Das Fazit der Forschenden: Bei den Social-Media-Unternehmen gebe es eine „anhaltende Unfähigkeit, Manipulationen zu bekämpfen“. Sie sehen darin eine mögliche, politische Gefahr. Diese Gefahr bleibt aber eher theoretisch, wie aus der Analyse hervorgeht. Die gekauften Interaktionen würden „in erster Linie zu kommerziellen Zwecken genutzt“. Auf allen Plattformen beobachtet habe man, dass damit die Sichtbarkeit von Influencer:innen und Promis erhöht werde, von Online-Spielen, Krypto- und Finanzprodukten.

Politisch eher brisant waren den Forschenden zufolge Desinformation über die Corona-Pandemie und Inhalte zur Parlamentswahl in Russland. Bei diesen Inhalten habe man Aktivitäten der verdächtigen Accounts beobachten können. Verdächtige Accounts hätten auch beispielsweise mit den Online-Auftritten eines saudi-arabischen Regierungsbeamten oder eines türkischen Bürgermeisters interagiert.

Solche Beobachtungen sind mit Vorsicht zu genießen: Von außen lässt sich nicht feststellen, ob eine Person solche Interaktionen für sich selbst gekauft hat. Außerdem können Anbieter von Fake-Accounts zunächst ohne Gegenleistung einigen bekannten Persönlichkeiten folgen, damit ihre Fake-Accounts weniger verdächtig aussehen. Dennoch: Soziale Medien seien ein „stark umkämpftes Informationsumfeld“, schreiben die Forschenden. Die NATO müsse ihre Strategien und Fähigkeiten verfeinern.

Analyse blendet wichtigen Knackpunkt aus

Einen Skandal kann die Analyse also nicht aufdecken. Bereits im Jahr 2019 hat der Autor dieses Textes für das VICE-Magazin untersucht, wie Like-Händler:innen weltweit soziale Medien manipulieren und ihre Spuren verwischen. Die Recherche zeichnete nach, wie ein globales Netzwerk durch manipulierte Interaktionen Geld verdient. Bevor Schwärme aus Accounts aber automatisch Likes verteilen können, braucht es viel Handarbeit. Eine Gefahr für die politische Meinungsbildung ließ sich im Zuge der Recherchen allenfalls theoretisch beschreiben.

Die Forschenden des Stratcom COE bezeichnen ihr eigenes Experiment jedenfalls als „bahnbrechend“. Der Titel ihrer Analyse verspricht viel. Demnach habe man untersucht, wie Social-Media-Unternehmen „Manipulation auf Plattformen bekämpfen“. Allerdings müsste das NATO-nahe Forschungszentrum wohl rhetorisch etwas abrüsten, um die eigenen Ergebnisse korrekt einzuordnen. Die Stichprobe hat zunächst nur ermittelt, wie Plattformen auf gekaufte Interaktionen reagieren. Das ist nur eine von vielen Zutaten, die Manipulationskampagnen im Netz ausmachen.

Nicht untersucht wurde etwa der Aufbau realer Influencer:innen, der Einsatz von Werbeanzeigen, vermeintlichen Nachrichtenportalen und Memes sowie hyperaktive Communitys, die sich gezielt zu Hass- und Hashtagskampagnen verabreden. Allein auf Grundlage dieser Stichproben lässt sich kaum ableiten, was Plattformen tatsächlich möglicher Einflussnahme entgegensetzen – und was nicht. Die Forschenden schlussfolgern zwar: „Die Anbieter:innen von Manipulationsdiensten gewinnen nach wie vor das digitale Wettrüsten.“ Dabei wird aber ein wichtiger Knackpunkt ausgeblendet: Wie effektiv können gekaufte Interaktionen überhaupt problematische Inhalte nach oben in die Trends und Newsfeeds katapultieren?

Manipulation in kleinen Dosen

Das öffentliche Meinungsbild wird nicht verzerrt, solange sich automatisierte Accounts nur gegenseitig liken und teilen – ohne, dass Menschen das sehen. Statt zu löschen können Social-Media-Plattformen auf solche Manipulation auch mit algorithmischer Abstrafung reagieren. Das ginge beispielsweise, indem die Reichweite verdächtiger Posts eingeschränkt wird. Diesen Aspekt hat das Forschungszentrum nicht untersucht.

Im Jahr 2019 konnten die VICE-Recherchen die andere Seite des Wettrüstens zumindest etwas beleuchten. In teils geschlossenen Foren arbeiten sich Like-Händler:innen kontinuierlich daran ab, unter dem Radar von Plattformen wie Instagram zu bleiben. Sie passen das Verhalten ihrer teils automatisiert gesteuerten Accounts immer wieder an. In Online-Shops werben sie damit, dass ihre manipulierten Likes und Follower:innen besonders schwer zu entlarven seien.

Aus den VICE-Recherchen geht hervor: Wer eine große und wirksame Kampagne plant, kann sich kaum auf gekaufte Interaktionen verlassen und muss sie sehr vorsichtig dosieren. Insofern dürfte ihre Bedeutung nicht überschätzt werden. Dazu passt eine Relativierung im Bericht des Forschungszentrums: Demnach hätten Plattformen den Forschenden mitgeteilt, das größere Eingriffe erkannt und bestraft würden; kleinere nicht.

Ranking der Plattformen: Wer löscht am meisten?

Ein spannendes Detail der Analyse ist ein direkter Vergleich der Plattformen. Wer schlägt sich am besten im Kampf gegen gekaufte Interaktionen? Darauf kann die Stichprobe zumindest ein Schlaglicht werfen. Untersucht wurde diese Frage in gleich mehreren Kategorien.

So habe Twitter nach vier Wochen von allen untersuchten Plattformen die meisten gekauften Interaktionen entfernt – übrig waren laut Analyse rund 83 Prozent. An zweiter Stelle kommt TikTok. Die Plattform habe sich im Vergleich zum Vorjahr deutlich verbessert und 85 Prozent der gekauften Interaktionen online gelassen. Es folgen YouTube, Instagram, Facebook und VKontakte.

Weiterhin untersucht wurde etwa, wie teuer die gekauften Interaktionen waren. Instagram sei demnach die am billigsten zu manipulierende Plattform, Twitter die teuerste. Generell habe Twitter mit Blick auf die untersuchten Aspekte die Nase vorn, heißt es in der Analyse. Eine besondere Erwähnung bekam TikTok. Die Plattform habe sich am meisten verbessert, schreiben die Forschenden. Das sei „eine deutliche Erinnerung daran, dass Social-Media-Unternehmen mehr tun können“.

Forschende sehen Regierungen in der Pflicht

Warum gehen die Plattformen nicht härter gegen manipulierte Interaktionen vor? Zumindest einen möglichen Grund nennen die Forschenden in ihrer Analyse: Auch gekaufte Klicks brächten Werbeeinnahmen. Diese Vermutung hatte die gemeinsame Pressestelle von Facebook und Instagram bereits 2019 gegenüber VICE verneint: Betrügerische Aktivitäten seien für alle schlecht, man habe ein großes Interesse, das zu verhindern.

Das Forschungszentrum fordert umfassende Konsequenzen von Politik und Unternehmen. Dienstleister wie PayPal, Visa und Mastercard sollten etwa Zahlungen für Like-Händler:innen einstellen. Regierungen sollten eine unabhängige Aufsicht für Social-Media-Plattformen einrichten. Sie sollten den Druck auf Plattformen erhöhen, Manipulation zu bekämpfen.

Unerwähnt bleibt an dieser Stelle der Analyse, dass das strengere Vorgehen gegen manipulierte Interaktionen auch eine Kehrseite hat. Besonders empfindliche Systeme können zu Overblocking führen. Alltägliche Klicks könnten mit Aktivitäten von Bots verwechselt werden. Es braucht eine Balance, damit auch gewöhnliche Nutzer:innen weiterhin an einer Plattform teilhaben können – ohne ständig CAPTCHAs zu lösen oder gar einen Ausweis vorlegen zu müssen.

Wie viel Spielraum Plattformen im Kampf gegen manipulierte Interaktionen wirklich haben, ließe sich wohl am besten durch gezieltere, unabhängige Forschung ermitteln. Dafür bräuchte es Zugang zu bislang internen Daten. Ein solcher Zugang ist zumindest im neuen Digitale-Dienste-Gesetz geplant, auf das sich die EU vergangene Woche geeinigt hat. Unabhängig davon lobbyieren auch Forschende des Stratcom COE dafür, vermehrt mit Daten der Plattformen forschen zu dürfen.


von  auf netzpolitik.org Creative Commons BY-NC-SA 4.0.

BürgerFerne

11. November 2020

Manchmal ärgere ich mich einfach nur, bisweilen sogar doppelt: Dazu dieses kleine Baustellenbeispiel aus unserer Stadt: Unsere Stadtratsmitglieder der BürgerNahen haben den Vorschlag gemacht, die neue Kindertagesstätte auf dem Gelände der ehemaligen Tenisvereins GrünWeiß an den Kiesbergstraße (Arbeitstitel „2. Kita am Kiesbergwald“) nicht nach einer christlichen Märtyrerin wie andere Kindergärten sondern nach dem jüngsten Holocaust-Opfer Lingens, dem zweijährigen Nico de Jong, zu benennen, der im Vernichtungslager Sobibor ermordet wurde. Wir wollten und wollen, dass an den kleinen Neffen unseres Ehrenbürgers Bernard Grünberg (97) dauerhaft erinnert wird.
Die CDU, die SPD und alle anderen, die im Jugendhilfeausschuss unserer Stadt Sitz und/oder Stimme haben, haben diesen Antrag abgelehnt, weil man „auch an die Kinder denken“ müsse, die die Kita besuchen und diesen der Name Nico de Jong (im Gegensatz zu einer christlichen Märtyrerin) nicht zu vermitteln sei. Das ist falsch und das war ein falscher und vor allem geschichtsloser Beschluss. Darüber habe ich in diesem kleinen Blog geschrieben. Vor der Sitzung hatte ich am Wochenende zuvor allen stimmberechtigten Mitgliedern des Jugendhilfeausschusses dazu Material zumailen wollen. Daran bin ich -nach Stunden (!) vergeblichen Suchens der E-Mailadressen- gescheitert, weil viele der Ausschussmitglieder ihre E-Mailadressen einfach verschweigen – eine besondere Art der BürgerFerne, wie ich finde. Am 27. September habe ich deshakb an die zuständige Dezernentin Monika Schwegmann, die auch Stadtkämmerin ist, und die für die Ratsarbeit zuständige Verwaltungsmitarbeiterin Sophia Gebken dies geschrieben:

Sehr geehrte Frau Stadtkämmerin,

Sie haben eben von mir als BN-Fraktionsvorsitzenden eine E-Mail zum Tagesordnungspunkt „Benennung der zweiten Kita pp.“ [der Sitzung des Jugendhilfeausschusses]  erhalten. Diese E-Mail ist vom Unterzeichner an die stimmberechtigten Mitglieder Ausschusses gesandt worden, wobei es ausgesprochen mühsam war, die jeweiligen E-Mailadressen zu ermitteln. 
Daher bitte ich Sie namens unserer Fraktion, die E-Mail Montagfrüh auch noch an die nicht-stimmberechtigten Mitglieder des Jugendhilfe-Ausschusses weiterzuleiten. Ich nehme an, dass Ihnen ein entsprechender Verteiler leicht zugänglich ist. Herzlichen Dank dafür im Voraus.
Frau Gebken bitte ich namens der Fraktion gleichzeitig, über eine Zusammenstellung der Mitglieder der Ratsausschüsse auf der städt. Webseite nachzudenken, damit diese ggf. problemlos mit einem Klick und gemeinsam per E-Mail informiert werden können. 
Denn die jetzige Handhabung ist mit hohem, überflüssigem Aufwand verbunden, was nicht sein muss. Insbesondere ist eben eine E-Mail an alle Ausschussmitglieder ohne mehrstündigen Ermittlungsaufwand schlicht nicht machbar Auch die Kontaktformulare, die manche Kolleginn/en nutzen, sind nicht hilfreich, wenn man E-Mails an mehrere Ausschusskolleginn/en zu versenden hat. Die Visitenkarten funktionieren (jedenfalls auf iOS) nicht. Ggf. mag dies zeitnah im Ältestenrat besprochen werden.
Mit freundlichen Grüßen
Die BürgerNahen – Stadtratsfraktion
Robert Koop, Vors.
Nun weiß ich bislang nicht, ob die Stadtkämmerin unser Informationsschreiben den Mitgliedern des Jugendhilfeausschusses übermitteln ließ. Angesichts der Entscheidung der Ausschussmitglieder hoffe ich für diese fast, dass sie die Argumentation nicht kannten. Es dauerte dann einige Wochen; doch gestern gab es jedenfalls zu den anderen Punkten diese Antwort von Sophia Gebken:

Sehr geehrter Herr Koop,

http://www.koop.de/NicoDeJong.AnDenJuhiAusschuss.pdfzu Ihrer Anfrage hinsichtlich SD.NET kann ich Ihnen folgendes mitteilen:

Alle Personen, die im [Ratsinformationssystem] RIM aufgeführt sind, haben aus datenschutzrechtlichen Gründen selbst bestimmt, welche persönlichen Daten (z. B. E-Mail-Adresse) veröffentlicht werden und welche nicht. Es ist in der Tat so, dass viele Personen die E-Mail-Adresse nicht zur Veröffentlichung freigegeben haben. Daran kann die Verwaltung allerdings nichts ändern, da die Entscheidung bei der jeweiligen Person liegt.

Wenn man eine Person im RIM aufruft, kann man das Kontaktformular und die Visitenkarte anklicken. Über das Kontaktformular erscheint keine E-Mail-Adresse, aber in der Visitenkarte ist diese im Klartext sichtbar.

Nach Rücksprache mit der Firma Sternberg wurde bestätigt, dass die Visitenkarten auf iOS nicht funktionieren. Das Problem konnte dort nachgestellt werden und wurde an die Entwicklung weitergegeben. Das Problem wird somit hoffentlich durch eines der nächsten Updates behoben.

Ein E-Mail-Verteiler für ein gesamtes Gremium kann über das Ratsinformationssystem nicht erstellt werden. Nur der Versand an Einzelpersonen ist technisch möglich, so die Firma Sternberg.

Freundliche Grüße

Sophia Gebken

Und jetzt frage ich mich, weshalb die Mitglieder eines kommunalen Ausschusses, die für die Einwohnerinnen und Einwohner unserer Stadt in einem öffentlich Gremien ehrenamtlich tätig sind, „aus datenschutzrechtlichen Gründen“ ihre elektronische Erreichbarkeit für eben all diese Einwohnerinnen und Einwohner verschleiern und erschweren. Ehrlich gesagt ist das nämlich gar kein Datenschutz und es wird weder des Amtes noch der Aufgabe der Ausschussmitglieder gerecht. Oder?

begrenzter Eingriff

31. Januar 2020

In einem am gestrigen Donnerstag veröffentlichten Urteil hat der Europäische Gerichtshof für Menschenrechte (EMGR) das Verbot anonymer Prepaid-SIM-Karten in Deutschland bestätigt. Durch das Sammeln der dabei erhobenen Daten würden keine Rechte verletzt.

Der Europäische Gerichtshof für Menschenrechte  entschied am Donnerstag, dass das Verbot anonymer Prepaid-SIM-Karten in Deutschland rechtmäßig war. In seinem Urteil befand der EGMR, dass die Ausweispflicht beim Kauf einer SIM-Karte lediglich einen „begrenzten Eingriff in die Rechte“ der Kläger darstellt.

Der EU-Abgeordnete Patrick Breyer (Piratenpartei) hatte schon 2012 Beschwerde beim EGMR erhoben, nachdem seine Verfassungsbeschwerde vom Bundesverfassungsgericht abgewiesen worden war. Er begründete diesen Schritt damit, dass die Zwangsidentifizierung beim Kauf einer Prepaidkarte eine freie und unbefangene Kommunikation und Internetnutzung gefährde.

Zwangsidentifizierung seit 2004

Konkret hat sich das Gericht mit der 2004 eingeführten Verpflichtung (§ 111 TKG) von Mobilfunkbetreibern befasst, Prepaidkarten nur nach Angabe von Name, Anschrift und Geburtsdatum des Kaufenden freizuschalten. Seit Juli 2017 sind die Betreiber außerdem dazu verpflichtet, diese Angaben mithilfe eines Ausweisdokumentes zu überprüfen.

Ziel der Maßnahmen ist es, die anonyme Nutzung von Prepaidkarten durch Terroristen zu verhindern. Laut Breyer können Menschen, die es darauf anlegen, jedoch einfach Karten aus anderen EU-Mitgliedsstaaten kaufen. Eine Zwangsidentifizierung sei deshalb auch für Strafverfolger nicht notwendig. Unter den Maßnahmen würde eher andere leiden:

Anonymität [ist] essenziell für Presseinformanten, für die anonyme Äußerung unliebsamer Meinungen im Internet und für die vertrauliche Koordinierung politischer Proteste.


von Felix Richter auf netzpolitik.org Creative Commons BY-NC-SA 4.0.
Foto: EGMR in Straßburg von Cherry X CC BY-SA 3.0

AfD: First follower

30. April 2017

Die AfD ist auf Twitter nicht so stark wie auf Facebook. Anhänger der Partei betreiben allerdings ein inoffizielles Unterstützungsnetzwerk. Die AfD sagt auf Anfrage, dass es mit den Betreibern der entsprechenden Accounts keine regelmäßigen Absprachen gibt. Recherchen zeigen aber, dass das Netzwerk großen Einfluss auf die Kommunikation der AfD auf Twitter ausübt.

Seit Dezember 2016 hat netzpolitik.org zusammen mit Tagesspiegel DATA das Twitter-Netzwerk der AfD analysiert. Ausgangspunkt der Recherche war Balleryna, der vermeintlich reichweitenstärkste Account aus dem AfD-Umfeld, der sich bei näherer Betrachtung als Fake-Account und Scheinriese herausstellte. Im Laufe der Recherche konnten wir ein genaueres Bild davon zeichnen, worüber und wie genau die AfD twittert.

Bei der Recherche rund um Balleryna stießen wir auf ein gut organisiertes Netzwerk aus inoffiziellen Unterstützern der AfD. Balleryna ist dabei nur einer von etwa einem Dutzend inoffizieller Unterstützer-Accounts, die alle ähnlich agieren. Inhaltlich stehen die meisten dieser Accounts dem offiziellen Partei-Account @afdkompakt sehr nahe.

Wer folgt wem zuerst

Um die Nähe der Accounts zu belegen, haben wir jeweils die ersten zehn Follower der Accounts analysiert. In der Regel folgen Menschen denen zuerst, die sie kennen. Erfahrungswerte zeigen, dass Personen mit Zweit- und Drittaccount oder Fake-Accounts sich oft zuerst selbst folgen. Die Grafik „First-Follower-Twitter-Netzwerk der AfD“ verdeutlicht, wie eng die Unterstützer-Accounts beieinander liegen.

 

 

Es ist sichtbar, dass der Account @mundaufmachen jeweils zu den ersten Followern sowohl von @afdkompakt als auch den inoffiziellen Unterstützer-Accounts @AfdTweets, @IchwaehleAfD und @MutfuerWahrheit zählt.

Auf der Suche nach weiteren Indizien haben wir uns angeschaut, mit welchen Mailadressen die Accounts bei Twitter angemeldet sind. Die Mailadressen lassen sich durch eine „Passwort vergessen“-Abfrage teilweise rekonstruieren. Hierbei fiel uns auf, dass @Balleryna, @mundaufmachen, @2017_AfDwaehlen und @PinocchioPresse alle mit Mail-Adressen nach dem Muster twittername@gmail.com bei Twitter angemeldet sind.

Zeitanalyse des Unterstützer-Accounts @mundaufmachen: Es wird immer nur Montag bis Freitag zu Bürozeiten getwittert. Dass er von der Partei dafür angestellt sei, verneint der Betreiber des Accounts auf Nachfrage jedoch.

In anderen Punkten unterscheiden sich die Accounts stark. So twittert beispielsweise @mundaufmachen ausschließlich zu Bürozeiten von Montag bis Freitag zwischen 8:30 und 18 Uhr, während andere Accounts die ganze Woche über…

[weiter hier bei netzpolitik.org]

(Quelle: netzpolitik.org)