Künstliche Intelligenz voller Vorurteile Algorithmen fallen immer öfter durch Rassismus und Sexismus auf. In die Lösung dieses Problems spielt die Berechnung von Diskriminierung hinein – und das macht die Sache kompliziert.

Googles Algorithmen finden eine solche Haarpracht «unprofessionell». Das liegt an uns. (Bild: Finbarr O'Reilly / Reuters)

Wer bei Googles Bildersuche den Begriff «Hand» eingibt, bekommt vor allem weisse Hände als Ergebnis angezeigt. Wer nach «professional hair» sucht, der sieht westliche Frisuren; «unprofessional hair» hingegen fördert afrikanische Locken zutage. Es gibt unzählige weitere Beispiele. Sie alle lassen die Suchmaschine Google rassistisch erscheinen. Freilich ist das nicht Google selbst, sondern es sind sogenannte selbstlernende Algorithmen: Sie lernen anhand von Vorbildern, wie die Welt funktioniert.