A Stanford Egyetem kutatóinak új fejlesztése 91 százalékos pontossággal megmondja egy fénykép alapján, hogy meleg-e az illető.

Az Amazon leállította azt a mesterséges intelligenciát, amit az alkalmazottak toborzására használtak. A lépésre azért volt szükség, mert a gép szexistává vált.

A Reuters beszámolója szerint az algoritmust azokon az adatokon edzették, amit a céghez jelentkezők az elmúlt 10 évben nyújtottak be. A többségük férfiaktól érkezett. A hírügynökségnek névtelenül nyilatkozó források, akik dolgoztak a rendszerrel, azt állítják, hogy

a gép gyakorlatilag saját magát tanította meg arra, hogy a férfi jelölteket kell előnyben részesítenie.

A gépi tanulással működő algoritmus fejlesztése 2014-ben kezdődött. A rendszert úgy tervezték meg, hogy nézze át a benyújtott jelentkezéseket, és adjon nekik 1-5 csillagos értékelést. Olyan rendszert akartak, amibe betáplálnak 100 önéletrajzot, és a gép kiadja az 5 legjobb jelöltet.

2015-re világossá vált, hogy a rendszer gendersemlegességével bajok vannak, ugyanis a céghez beérkezett adatokból dolgozott, és azokat a jelentkezéseket főleg férfiak küldték. A mesterséges intelligencia ezek után szűrni kezdte azokat az életrajokat, amikben a „nő” szó szerepelt. Miután a fejlesztők észlelték a hibát, átírták az algoritmust, hogy az semlegesen viszonyuljon a „nő” szóhoz, de – mondták a fejlesztők a Reutersnek – innentől világossá vált, hogy a rendszer megbízhatatlan.

A projektet leállították. Az Amazon HR-esei állítólag egy ideig támpontként használták a gépi adatokat, de sosem támaszkodtak kizárólag ezekre a munkaerő kiválasztásánál. A cégnél a dolgozók nemi megoszlási aránya 60-40 százalék a férfiak javára.

Az Amazon nem kommentálta a Reuters értesüléseit.

(BBC News)