Flickr taggt schwarze Menschen als Affen

Gut gemeint ist oft genug nicht gut gedacht - gerade, wenn es um Algorithmen geht. Die Foto-Seite Flickr entschloss sich kürzlich, Fotos automatisch taggen zu lassen. Das heißt, ein Algorithmus 'erkennt', was auf Bildern zu sehen ist und kümmert sich um die Verschlagwortung. Wie der Guardian berichtet, führt das dazu, dass schwarze Menschen vom Algorithmus als "Affen" erkannt werden. Bilder von Konzentrationslagern hingegen werden mit dem Wort "Sport" oder "Klettergerüst" versehen. Auch bei Bildern mindestens einer weißen Person taucht das Schlagwort "Affe" auf. An der beleidigenden Wirkung für schwarze Menschen dürfte das jedoch wenig ändern.

So äußert sich Flickr

Flickr sagte in einem Statement: "Wir wissen über die Vorfälle von ungenauem Auto-Tagging Bescheid und arbeiten an einer Lösung." Man sei stolz auf die Bilderkennungs-Software, gehöre aber "zu den Ersten, die zugeben, dass es dabei Fehler geben wird." Angesichts der beschriebenen Wort-Bild-Verknüfung klingt das erstaunlich lapidar.

Anscheinend hat Flickr das Schlagwort "Affe" mittlerweile aus dem Lexikon der Software entfernt.

Algorithmische Fehler passieren häufig

Dass Algorithmen für Firmen ein Problem sein können, zeigt sich regelmäßig. Ende 2014 wollte das soziale Netzwerk Facebook seine Nutzer beispielsweise daran erinnern, wie ihr Jahr verlaufen ist. Eine nett gemeinte Idee, doch schon einmal Nachdenken hätte helfen können. Bei einigen der 1,35 Milliarden Nutzer sind 2014 auch Freunde, Verwandte, Eltern und Kinder verstorben - ein Familienvater wurde schmerzlich daran erinnert, dass seine Tochter verstorben ist. Die Designer haben sich daraufhin entschuldigt.