Warum wir nicht lernen sollten, den Algorithmus zu lieben
(Erweiterte Version eines Artikels für die GLB-Zeitung „Die Arbeit“
Anfang Oktober 2018 teile AMS-Vorstand Johannes Kopf den Medien mit, dass das AMS seit Jahren an einem Algorithmus arbeite. Arbeit suchende Menschen sollen nach deren Chancen am „Arbeitsmarkt“ in drei Kategorien eingeteilt werden wonach sich danach die Betreuung richten solle: Die A-Klasse mit guten Chancen erfährt keine Zwangsbeglückung und darf die Selbstbedienung nutzen, auf die B-Klasse mit mittleren Chancen solle sich das „Förderangebot“ konzentrieren und die C-Klasse mit wenig Chancen solle in billigeren Betreuungs- und Betreuungseinrichtungen unter kommen. Später präsentierte Sozialministerin Hartinger-Klein per Anfragebeantwortung als Karotte für die aussortierten Esel, dass die neuen BBE Lights zielführender sein sollen „als die oft als Druck empfundene Teilnahme an Kursen, die zu keiner Beschäftigung führen und oft als sinnlos wahrgenommen werden oder an Beschäftigungsprojekten, die ohne Perspektive auf eine weiterführende Integration die Misserfolgserlebnisse der Betroffenen weiter verstärken.“
Die Kritik am Algorithmus war groß und berechtigt. Der Algorithmus berechnet bloß „ex ante“ - im Nachhinein – die „Arbeitsmarktintegrationschancen“. Er bildet daher die Diskriminierung von Menschen durch Wirtschaft und Staat ab, die dann als „persönliche Merkmale“ den Diskriminierten als Ursache der Arbeitslosigkeit zugeschrieben werden. Zufälligerweise konzentriert sich die Zahl der in die Kategorie C fallenden Menschen auf das rotgrüne Wien ...
Kurios, dass ausgerechnet die Synthesisforschung GmbH, die in Auftragsforschung AMS-Zwangsmaßnahmen behübschend evaluiert, den Algorithmus entwickelt und somit das mitkreiert, was nachher von ihr bewertet wird. Die Diskriminierung wird schon in der Norm gebenden „Basisgruppe“ festgeschrieben, der „Gruppe der jungen Männer mit höchstens Pflichtschulabschluss und österreichischer Staatsbürgerschaft. Sie haben keine Betreuungspflichten, sind nicht gesundheitlich beeinträchtigt und befinden sich in einem Arbeitsmarktbezirk, der zum RGS-Typ 1 gehört.“
Bezeichnend, dass als „Integrationsziel“ eisern an zumeist fremd bestimmter Lohnarbeit am ach so freien ArbeitsMARKT festgehalten wird und jegliche Alternative weiter ausgeschlossen bleibt, auch wenn die nach wie vor übrig gebliebenen Ladenhüter Langzeitarbeitslose, ältere Arbeitslose, Migrant*innen etc. am Markt keine Chance auf sinnvolle und fair bezahlte Arbeit haben. Der Algorithmus liefert als automatisierter Zuchtmeister eine „Arbeitsmarktpositionierung“, die selbst zu verbessern die Regierung zur obersten Pflicht erklärt.
Dass Algorithmen fehlerhaft und unmenschlich sind, hat laut Algorithm Watch der schwedische Überwachungs- und Disziplinierungsstaat vorgeführt: Dort hatte ein Algorithmus die monatlich auf der Homepage der Arbeitsagentur einzugebenden „Tätigkeitsberichte“ der Arbeit Suchenden ausgewertet. 500.000 Verwarnungen und 70.000 Bezugssperren hatte der Computer voll automatisiert ausgesprochen. 10 – 15% der Sperren erwiesen sich als völlig unbegründet, waren Ergebnis fehlerhafter Programmierung oder Datenerfassung!
Der Amazon-Konzern stoppte 2015 ein Algorithmus-Projekt zur Bewertung von Bewerber*innen, weil es nicht und nicht gelang Diskriminierung auszuschließen.
Laut EU Datenschutzgrundverordnung dürfen automatisierte Entscheidungen nicht auf sensible Daten wie ethnische Herkunft oder Gesundheitsdaten gestützt werden. Genau solche Daten fließen mehr oder weniger direkt in den AMS Algorithmus ein. Die Entscheidung muss anfechtbar bleiben und haben Betroffene ein Recht, ihren Standpunkt darzulegen. Artikel 22 EU DSGVO schreibt aussagekräftige Information über Logik, Trageweite und Auswirkungen des Algorithmus in einer Datenschutz-Folgeabschätzung vor. Genau diese Auskünfte verweigern Sozialministerium und AMS auf eine von epicenter.works nach Auskunftspflichtgesetz gestellte Anfrage!
Die Konferenz der Informationsfreiheitsbeauftragten in Deutschland hat ebenfalls im Oktober 2018 in einem Positionspapier bezweifelt, dass Algorithmen mit den Grund- und Verfassungsrechten vereinbar sind und dargelegt, dass die für rechtskonforme Verwaltung notwendige Nachvollziehbarkeit, Überprüfbarkeit und Beherrschbarkeit der Entscheidungen und der Auswirkungen nicht gegeben ist. (Siehe auch netzpolitik.org)
In Österreich ist das AMS nach § 31 AMSG jedenfalls verpflichtet, jede Fördermaßnahme auf den Einzelfall hin zu begründen, gleichartige Fälle gleich zu behandeln, Benachteiligungen entgegen zu wirken und Vermittlungshindernisse zu beseitigen. Nach § 45 AVG hat das AMS Betroffenen zudem vor der Zuweisung in Form des Parteiengehörs seine Gründe darzulegen, warum es etwas für sinnvoll erachtet und den Betroffenen Gelegenheit zu geben dazu Stellung zu nehmen.
Gerade im Sozialbereich, bei der Existenzsicherung, bringen automatisierte Entscheidungen massiven Stress für die Betroffenen. Es bedarf – da die Daten schon zubereitet werden – nur einiger Änderungen im Algorithmus um aus einer vermeintlichen Unterstützung ein administratives Massenverbrechen zu machen. Kritische Expertinnen sprechen daher von „mathematischen Massenvernichtungswaffen“ (Weapon of Math Destruction).
Statt - wie AK und Volksanwaltschaft - unisono bloß einige Verbesserungen des Algorithmus und seiner Anwendung zu fordern, gehört dieser gestoppt!
Einzig sinnvolle Alternative zur Entmündigung von Arbeit suchenden Menschen durch vermeintliche Experten oder durch Algorithmen kann in einer Demokratie nur die Beseitigung des auf Existenz vernichtenden Bezugssperren beruhendem Gewaltregimes beim AMS sein. Die freie Wahl auf Basis objektiver und ausreichender Information durch die versicherten Arbeiter*innen selbst wäre die einfachste, billigste und wirkungsvollste Qualitätssicherung!
Martin Mair