sofortiger Stopp

12. Februar 2020

Das niederländische Sozialministerium fahndete mit Algorithmen nach angeblichen Sozialbetrügern – allerdings nur in ärmeren Gegenden. Ein Gericht hält das für diskriminierend und ordnete einen Stopp an.

Am vergangenen Mittwoch ordnete ein niederländisches Gericht [am Regierungssitz in Den Haag] den sofortigen Stopp eines Programms an, das vermeintlichen Sozialbetrug automatisiert erkennen sollte. Es sei unvereinbar mit der Europäischen Menschenrechtskonvention, urteilten die Richter:innen. Die Gerichtsentscheidung ist nicht bindend für die Regierung, der UN-Sonderberichterstatter für extreme Armut und Menschenrechte, Philip Alston erwartet aber, dass diese ihm Folge leisten wird. Das Urteil sei bahnbrechend, twitterte er.

System Risico Indicatie“ (SyRI) ist der Name des Tools, das seit 2014 offiziell verwendet wird. Gefüttert mit Daten aller möglichen Behörden rechnete es aus, wie hoch das Risiko einer bestimmten Person sei, den Staat um Sozialleistungen zu betrügen. Dazu analysieren die Behörden sensible Daten, die ursprünglich für andere Zwecke gesammelt wurden. Einige Menschen stuft das System dann als „Hoch-Risiko-Bürger:innen“ ein, daraufhin werden Ermittlungsverfahren gegen sie eingeleitet.

Aufgrund des Wohnorts verdächtigt

SyRI wird nur auf Daten von Personen aus bestimmten Regionen des Landes angewandt. Orte, an denen besonders viele Menschen unter einer nicht näher definierten Einkommensgrenze leben, wurden mit SyRI untersucht – obwohl es keinen Nachweis gibt, dass Personen aus diesen Regionen überdurchschnittlich häufig Sozialbetrug begehen.

Menschenrechtsaktivist:innen hatten 2019 Klage gegen SyRI eingereicht, weil es arme Menschen diskriminiere, so Human Rights Watch auf seinem Blog. SyRI verletze das Recht auf Privatsphäre und das Recht auf soziale Sicherheit, schreibt Alston, der UN-Sonderberichterstatter, in einem ausführlichen Bericht über SyRI an das Gericht. Darin verglich er das Tool mit Inspektor:innen, die in einer bestimmten Siedlung an alle Türen klopften – während in anderen, besser situierten Gegenden niemand geprüft werde.

Das niederländische Sozialministerium kündigt an, das Urteil „im Detail“ zu untersuchen; es kann gegen das Urteil berufen. Die Stellungnahme des Ministeriums betont indes in einem ganzen Absatz die Wichtigkeit genauer Kontrollen für das Funktionieren des Sozialsystems.

Und führe sie nicht in Versuchung

Die Aussicht auf Effizienzsteigerung und Kosteneinsparung durch Automatisierung findet nicht nur das Sozialministerium der Niederlande verlockend.

Der zyprische Datenschutzbeauftragte verbot zuletzt einem Tourismuskonzern die Nutzung eines Tools, das die Häufigkeit und die Zeitpunkte von Krankmeldungen der Angestellten analysierte. Dies verstoße gegen die Datenschutzgrundverordnung. Der Konzern darf nun keine automatisierten Auswertungen des „Bradford Factor“ vornehmen, er muss alle gesammelten Daten löschen und 82.000 Euro Strafe zahlen.

Der Guardian berichtete indes von Bemühungen des britischen Ministeriums für Arbeit und Renten, die Vorgänge und Dienstleistungen in seinen Behörden an Maschinen abzugeben. „Schneller, akkurater und günstiger“ solle das Ministerium schließlich arbeiten können, sagte ein Vertreter dem Guardian.

Spannend also, ob Gerichte im Vereinigten Königreich und in anderen Ländern wie Dänemark, wo Behörden auch auf Automatisierung setzen, sich ein Vorbild an der niederländischen Rechtsprechung nehmen. Noch besser wäre natürlich, Sozialministerien verzichteten gleich auf Programme wie SyRI.


Text: Lucia via netzpolitik.org Creative Commons BY-NC-SA 4.0.
Foto: Steven Lek: Justizpalast den Haag, Creative Commons Attribution-Share Alike 4.0 International

Spionierende Partner

17. Februar 2019

Die saudische Verwaltungsapp Absher sorgt weltweit für Empörung, seit bekannt wurde, dass Männer damit ihre Frauen an der Ausreise hindern können. Jetzt geraten auch Apple und Google unter Druck, die App aus ihren Stores zu nehmen. Was dabei vergessen wird: Spionierende Partner und Ex-Partner findet man auch in Deutschland – und die Regierung interessiert sich kaum dafür. Ein Kommentar von Chris Köver.

Eine wirklich praktische Verwaltungsapp hat Saudi-Arabien da entwickelt. Man kann darin Knöllchen zahlen, wenn man falsch geparkt hat, einen Ausweis erneuern oder ein Neugeborenes anmelden. Und wenn man ein Mann ist, kann man auch einstellen, wie viele Reisen die eigene Frau oder Tochter unternehmen darf, ob sie das Land überhaupt verlassen darf und wohin. Man kann sich sogar per SMS benachrichtigen lassen, wenn sie an einem Flughafen eincheckt oder versucht die Grenze zu überqueren.

In Saudi-Arabien ist das ein normaler Verwaltungsakt, denn laut Gesetz braucht jede Frau dort einen männlichen Vormund, der über sie entscheidet – einen Ehemann, Vater, Bruder oder Sohn. Ohne dessen Erlaubnis kann eine Frau weder eine Ausbildung machen, noch Autofahren oder das Land verlassen. Als man im Jahr 2012 die dafür notwendigen Papierbescheinigungen, den berühmten „yellow slip“, digitalisierte, war das rein rechtlich betrachtet nur ein Schritt Richtung E-Government.

Jetzt ist die Geschichte außerhalb Saudi-Arabiens wieder in Erinnerung gerufen worden, nachdem Anfang Februar ein Artikel im Business Insider ausführlich über die App und ihre Funktionen berichtete. Die Empörung richtet sich allerdings weniger gegen die saudische Regierung. Dass Frauen dort keine vollen Menschenrechte genießen, ist ja bekannt. In der Kritik stehen vor allem Apple und Google, die die App Absher mit den genannten Funktionen in ihren Stores anbieten. An sie appellieren jetzt Organisationen wie Amnesty International und Human Rights Watch, sie mögen die Software doch aus ihren Download-Bereichen verbannen. Gerade Apple ist schließlich für seine strikten Richtlinien bekannt, die unter anderem Apps aussperren, die geeignet sind, andere zu gefährden. Beide Firmen haben inzwischen angekündigt, die App prüfen zu wollen.

So praktisch: Mit der Verwaltungsapp Absher kann man Autos anmelden oder die eigene Frau und Tochter an der Ausreise hindern. Alle Rechte vorbehalten Screenshot

Natürlich ist diese Geschichte ein Aufreger: Eine staatliche App, die bei der Überwachung, Unterdrückung und Entmündigung von Frauen hilft, so als gehe es dabei um eine weitere lästige Verpflichtung, vergleichbar mit dem Begleichen eines Knöllchens oder einer neuen Fahrzeugzulassung. Interessant ist dennoch die Frage, warum die Geschichte derzeit wieder einen solchen Aufwind erfährt. Eingeführt wurde die Verwaltungs-App inklusive der Option zur SMS-Benachrichtigung bereits im Jahr 2012. Die saudische Aktivistin Manal al-Sharif, berühmt geworden durch ihre Kampagne für der Recht der saudischen Frauen auf Autofahren, hatte damals bereits in einem Tweet auf die Funktion aufmerksam gemacht. Auch der Guardian und andere Medien berichteten daraufhin.

Vielleicht liegt es an der packenden Geschichte von Shahad al-Moheimeed, der jungen Frau, deren Fluchtgeschichte der Business Insider für seinen Artikel so akribisch recherchiert hat – inklusive der Rolle, die das Überlisten von Absher dabei spielte. Allerdings fällt auf, dass die Empörung über die Unterdrückung, Verfolgung und Schikane von Frauen vor allem dann Aufmerksamkeit erfährt, wenn sie anderswo passiert. Besonders in Saudi-Arabien, dessen archaische Gesetze im Kontrast zur westlichen Welt wie eine dystopische Geschichte von Margaret Atwood anmuten.

Wer allerdings etwas darüber erfahren möchte, wie Frauen mit Hilfe von Technologie verfolgt, bedroht und tyrannisiert werden, muss dazu nicht bis in den Nahen Osten schauen. Es reicht aus, in die nächstgelegene Frauenberatungsstelle zu gehen und sich dort mit jenen zu unterhalten, die täglich mit solchen Fällen zu tun haben. Partner und Ex-Partner, die das Handy ihrer Frauen und Freundinnen mit versteckten Programmen überwachen, ihren Standort minutengetreu verfolgen, all ihre Chats und Telefonate mitlesen und hören.

Spyware nennen sich die Programme, mit denen diese Totalüberwachung möglich ist und sie sind auch in Deutschland legal zu kaufen. Denn ihr Einsatz ist nicht per se verboten. Wenn etwa ein Erziehungsberechtigter sein Kind mit diesen Mitteln tracken möchte, ist das erlaubt, so lange nicht Dritte mit abgehört werden. Eine Straftat begeht erst, wer die App einsetzt, um einen anderen ohne dessen Einverständnis auszuspionieren.

An Google und Apple braucht man in diesem Fall nicht zu appellieren, denn sie haben die berüchtigten Apps wie FlexiSpy oder mSpy aus den Stores verbannt. Das ist allerdings kein unüberwindbares Hindernis, denn um etwa den Standort und die Chats auf einem iPhone zu überwachen, kann schon die Apple ID und das Passwort der Person reichen, die es nutzt. Wenige Minuten mit einem Telefon genügen, um darauf Programme zu verstecken, die noch viel mehr können, zum Beispiel alle Gespräche mithören oder das Mikrofon aus der Ferne anschalten. Viele der Betroffenen wissen nichts über Zwei-Faktor-Authentifizierung oder anderen Sicherheitsmaßnahmen, die sie davor schützen könnten.

Die Tech-Konzerne sind hier die falschen Ansprechpartner. An wen man aber sehr wohl appellieren könnte, ist die Bundesregierung. Wenn sich der illegale Einsatz der Software nicht verhindern lässt, dann könnte sie zumindest dafür sorgen, dass Frauen über die Gefahren gut aufgeklärt werden. Sie könnte die Beratungsstellen mit genug Geld ausstatten, um Menschen zu beschäftigen, die dabei helfen, Beweise zu sichern und das eigene Gerät wieder zu entwanzen. Und sie könnten schließlich auch bei der Polizei und Justiz dafür sorgen, dass Beamt*innen und Richter*innen solche Fälle richtig einordnen können.

Das Interesse an dem Thema scheint jedoch gering – obwohl sich die Berichte von Betroffenen im Netz häufen und die Beratungsstellen berichten, dass diese Form der geschlechtsspezifischen Gewalt inzwischen zum Alltag gehört. Eine Anfrage der Fraktion Die Linke aus dem vergangenen Jahr hat ergeben, dass im Grunde keinerlei Zahlen dazu bekannt sind, wie viele Fälle von digitaler Spionage und anderen Formen Digitaler Gewalt erfasst oder angezeigt wurden. Es sind auch keine Studien dazu geplant. Ein einziges Projekt zum Thema fördert das Familienministerium. Der Bundesverband Frauenberatungsstellen und Frauennotrufe, der die Seite „Aktiv gegen digitale Gewalt“ koordiniert, sagt er bekomme wesentlich mehr Anfragen für seine Weiterbildungen als er anbieten kann.

Deutschland ist nicht Saudi-Arabien und Männer, die Spyware nutzen, um Partnerinnen oder Ex-Partnerinnen zu verfolgen und zu tyrannisieren, sind nicht das gleiche wie eine Regierung, die eine solche Funktion in einer Bürger-App einbaut. Frauen sind in Deutschland per Grundgesetz gleichgestellt, aber auch wir ringen noch darum, diesen Grundsatz auch tatsächlich ins bürgerliche Gesetzbuch und von dort ins tatsächliche Leben zu übersetzen. Man würde sich deshalb wünschen, dass ein Teil des Furors, den diese App auslöst, sich auch gegen die Gewalt richtet, die Frauen in Deutschland jeden Tag erfahren. Damit gleiche Rechte nicht nur in Gesetzen festgeschrieben stehen, sondern auch im Alltag gelebt werden können.

 


Ein Kommentar von Chris Köver, netzpolitik.org