"Bestehende Vorurteile einzementieren"

„Man weiß jetzt, wie das AMS über seine Kunden denkt. Das wird bestehende Vorurteile einzementieren. Eigentlich müsste man sich, um das wirklich solide sauber machen zu können, noch einmal ganz andere Kategorien überlegen“, meint Ben Wagner, der am Privacy & Sustainable Computing Lab am Institute for Information Systems & Society an der WU Wien zu Algorithmen forscht, im futurezone-Gespräch.



Auch Florian , Forscher am Center for Informatics and Society an der Informatikfakultät der TU Wien, sieht in der Festsetzung der Kategorien ein „Paradebeispiel für Diskriminierung“. „Viele Systeme verstecken diese absichtlich in Proxy-Variablen, sodass man gar nicht genau weiß, warum Diskriminierung stattfindet. Beim AMS-Modell ist das hier sehr klar und offensichtlich erkennbar“, sagt Cech zur futurezone.

Beide Experten erklären in Folge auch, warum die Abbildung des Marktes in einem Computermodell nicht klug ist. „In zehn Jahren verändert sich der Arbeitsmarkt und andere Gruppen haben vielleicht bessere Chancen als jetzt. Darauf kann das Modell nicht reagieren. Mit dem jetzigen Modell werden die derzeitigen Umstände als Werte festgeschrieben und sind dynamisch nicht mehr veränderbar. Man verstärkt damit nicht nur Vorurteile, sondern auch die Vor- und Nachteile. Man sucht sich die Stärksten raus und macht sie noch stärker und die Schwächsten noch schwächer“, erklärt Wagner.



Wagner-Pinter von der Synthesis Forschung versucht dies zu entkräften: „Das Modell lässt sich laufend anpassen. Gegenwärtig wird von einer jährlichen Anpassung ausgegangen.“