Nachvollziehbarkeit der Entscheidung

„Die Betroffenen und auch die Menschen, die auf Basis automatisierter Entscheidungen arbeiten, können nicht nachvollziehen, wie der Algorithmus funktioniert. Je komplexer er wird, desto mehr wird er zur Black Box. Das AMS ruft hier Geister, die im schlimmsten Fall die Zukunft von Menschen zerstören und die unsere Gesellschaft nur schwer wieder los wird", fürchtet Adensamer. Die Datenschutzgrundverordnung (DSGVO) verbietet zudem automatische Entscheidungen, die eine „nachteilige Rechtsfolge für betroffene Personen hat“.

Die Entscheidung des Computerprogramms basiert auf gesammelten Data Warehouse (DWH)-Daten zu statistischen Daten plus Daten darüber, wie oft und wie lang jemand arbeitslos war, welchen Beruf er erlernt hat und welcher ausgeübt wurde. „Das DWH wird vom AMS im Rahmen rechtlich normierter Bedingungen geführt“, erklärt Michael Wagner-Pinter von der Firma Synthesis Forschung GmbH, die hinter dem Algorithmus stecken und ein entsprechendes Ergebnispapier dazu veröffentlicht hat.

Profiling und Daten richtigstellen

Hier handelt es sich laut Andreas , Geschäftsführer der Datenschutzagentur, um klassisches „Profiling“. „Entsprechend notwendig ist es seitens des AMS, die Funktionsweise zu erläutern. Kunden haben hier ein Recht auf die Richtigstellung der Daten. Dazu muss man aber erst einmal rausfinden können, was eigentlich falsch ist. Man muss Gegenmaßnahmen setzen können. Für jeden Einzelnen hängt eine ganz wesentliche Entscheidung dran, ob man eine Schulung kriegt oder nicht“, erklärt Krisch.

„Man hat auch ein Recht, die Daten, die einen betreffen, berichtigen zu lassen, nach Artikel 16 DSGVO. Das kann zumindest helfen, wenn die Berechnung auf falschen Daten beruht“, sagt Adensamer. Zudem gibt es für Betroffene ein generelles Auskunftsrecht laut DSGVO, das man ebenfalls per Formular anfordern kann (siehe Link zu den Dokumenten bei der Datenschutzbehörde).

Information in "verständlicher Sprache"

Das AMS muss laut DSGVO außerdem in „präziser, verständlicher und leicht zugänglicher Form in einer klaren und einfachen Sprache“ über das neue Computerprogramm aufklären. Auch die „involvierte Logik sowie die Tragweite einer Verarbeitung für die Person“ muss den AMS-Kunden von den Sachbearbeitern erklärt werden.

Hat eine Frau ein Kind und dadurch entsprechende Betreuungspflichten, kriegt sie vom AMS-Algorithmus Extra-Punkteabzüge. Männer mit Betreuungspflichten jedoch nicht. Begründet wird dies offiziell damit, dass dies eine „bittere Wahrheit“ des Arbeitsmarktes sei, die sich im Arbeitsmarktmodell widerspiegle, wie es Wagner-Pinter formuliert hat.