AMS-Algorithmus als Thema

„Der Algorithmus ist genau das Gegenteil von Diskriminierung“, betonte AMS-Vorstand Johannes Kopf in einer an die Keynote anschließenden Diskussion, die futurezone.at-Chefredakteurin Claudia Zettel moderierte. „Es geht um die Sichtbarkeit von Arbeitsmarktchancen. Unser Algorithmus zeigt große Ungleichheiten am Arbeitsmarkt auf und hat den Zweck, dass wir dann Fördergelder gezielter verteilen können.“

Frauen bekommen von dem Computerprogramm per se weniger Punkte als Männer. Müssen sie zudem Kinder betreuen, wird das vom Computer ebenfalls negativ bewertet, bei Männern gibt es für Betreuungspflichten hingegen keinen Abzug. Kopf sieht darin allerdings keine Diskriminierung, weil Frauen dadurch vermehrt in der „mittleren Gruppe“ landen würden und somit in dem Topf landen, in dem die größten Fördergelder verteilt werden.

„Das sind die, die wir ganz besonders fördern wollen und wir sehen durch unsere Statistiken, dass diese Fördergelder bei Frauen besonders effektiv sind. Wir machen das, weil wir ihre Chancen verbessern wollen“, so Kopf. Eingebaut werden zudem Safeguards, damit AMS-Berater Menschen nicht etwa runterstufen, um weniger Aufwand zu haben. „Außerdem werden wir den Algorithmus laufend beobachten und evaluieren“, so Kopf. „Wir verdienen einen Vertrauensvorschuss, weil wir sind keine böse Bank, die damit über Kredite entscheidet.“

Es geht um einzelne Menschen

Uniprofessorin Horwath verwies darauf, dass ein derartiges Modell zwar gut sei, wenn man Chancen bestimmten Gruppen zuordnen möchte, doch es auf individueller Ebene problematisch sein könnte. „Wenn eine Kategorisierung eines Individuums erfolgt, ändert sich etwas. Das ist der Moment, wo ich denke, dass es schnell zu einer selbsterfüllenden Prophezeiung kommen könnte“, sagte die Forscherin. „Das kennt man etwa aus der Kriminologie. Wenn jemand als kriminell eingestuft wird, kann sich dadurch eine Spirale in Gang setzen. Daher müssen Maßnahmen vorgesehen sein, die das verhindern“, so die Expertin.

Kopf sagte, dass es derartige Problematiken bereits in der Vergangenheit gegeben habe, etwa bei Kopftuchträgerinnen und Bewerbungsfotos. „Wir sind damit konfrontiert, dass es Diskriminierung am Arbeitsmarkt gibt.“ Die 6000 Berater würden ab dem nächsten Jahr den Betroffenen daher immer auch die Hauptgründe für ihre Einstufung mitteilen, so der AMS-Vorstand. „Derzeit hat das System noch keine Auswirkungen für Kunden.“ Das AMS werde sich zudem weiterhin der öffentliche Diskussion zu diesem Thema stellen.

Sandra Konstatzky von der Gleichbehandlungsanwaltschaft betonte, dass man auch darauf achten müsse, wie man als Betroffene Rechtsdurchsetzung gewährleisten könne, wenn sich künftig jemand von dem Computerprogramm diskriminiert fühlt. „Was passiert, wenn ein Fehler passiert ist? Hier müsste man gewährleisten, dass Systeme auch von außen überprüft werden können“, so Konstatzky. Die Gleichbehandlungsanwaltschaft habe ein ähnliches Problem bereits einmal gehabt, als es um Versicherungsmathematik ging. „Es wurden unterschiedliche Versicherungstarife für Frauen und Männer angeboten. Das haben wir abgestellt.“ Weil Diskriminierung verschuldensunabhängig sei, müsse man auch von außen schauen können, ob Systeme Tücken oder Lücken haben, sagte Konstatzky.