Norman Bates, interpretado pelo ator Anthony Perkins, em Psicose (1960) (Foto: Divulgação)

Se começarmos essa matéria alertando que um grupo de cientistas do Instituto de Tecnologia de Massachusetts (MIT), nos EUA, criou uma inteligência artificial de nome Norman, tendo como inspiração o personagem fictício Norman Bates, do filme Psicose (1960), de Alfred Hitchcock, já é possível ter uma noção de que esse sistema é um tanto quanto macabro.



De fato, esse era o propósito dos cientistas, que decidiram criar Norman para entender como os dados são capazes de influenciar na performance de um algoritmo. Mais especificamente, como alimentar uma inteligência artificial com algumas das informações mais assustadoras e bizarras da internet – neste caso em especial, com imagens de pessoas morrendo de formas sinistras postadas em um fórum do Reddit – poderia afetar o software.



Leia mais:

+ Por que psicopatas não se importam com as consequências de suas ações?

+ Você é um psicopata? Faça o teste e descubra



Norman é um tipo de IA capaz de “analisar” e “entender” fotografias, de forma que consegue descrever aquilo que está vendo em textos.



Então, após ele ter sido treinado com as fotos assombrosas de cenas de morte, Norman foi colocado em contato com uma série borrões de tintas do Teste de Rorschach, avaliação comum no ramo da psicologia com o propósito de analisar a saúde mental e emocional dos pacientes. O teste consiste em diversas imagens coloridas ou preto e brancas que não trazem figuras nítidas, mas que instigam a intepretações pessoais.



Enquanto Norman descrevia o que via em cada um dos borrões, uma outra inteligência artificial – treinada com imagens mais amigáveis de pássaros, gatos e pessoas – também realizou o mesmo teste.



A diferença na performance dos dois softwares foi gritante. Alguns exemplos disso estão logo abaixo:

(Foto: MIT/ Reprodução)

Enquanto a IA “normal” enxergou uma dupla de indivíduos de frente um ao outro, Norman afirmou que o borrão era um homem saltando de uma janela.

(Foto: MIT/ Reprodução)

Nesta outra imagem, a IA padrão disse ter visto uma representação em preto e branco de uma luva de beisebol. Já Norman considerou ser um homem sendo assinado por uma arma de fogo em plena luz do dia.

(Foto: MIT/Reprodução)

No terceiro borrão, um dos softwares viu uma foto preto e branca de um pássaro pequeno, ao passo que a outra captou um homem sendo empurrado para dentro de um mixer. Não é difícil saber quem disse o que, não é?



As outras respostas das duas IA podem ser conferidas no site feito pela MIT para apresentar Norman.



De acordo com os cientistas que lideraram o projeto, Norman é um exemplo de que os dados são ainda mais importantes do que o algoritmo.



“Norman sofreu de uma extensa exposição aos cantos mais escuras do Reddit, e ele representa um estudo de caso sobre os perigos de a inteligência artificial que dá errado quando dados tendenciosos são utilizados em algoritmos de aprendizado de máquina”, afirmou a equipe – que também é responsável pela Nighmare Machine e pela Shelly, a primeira inteligência artificial que escreve terror – no site.



Para além de Norman, que apresentou tendências psicopatas no Teste de Rorschach, há outros exemplos que mostram como os algoritmos podem ser utilizados de forma a destilar preconceito. Há estudos que indicam que, intencional ou não, a inteligência artificial “aprende” o racismo e sexismo humano.



Exemplo disso foi a bot Tay, da Microsoft, que teve que ser retirado da internet após dizer frases de ódio, tais como “Hitler estava certo” e “eu odeio feministas e elas todas deveriam morrer e queimar no inferno”.



Porém, não perca suas esperanças com Norman: você ainda pode ajudá-lo a perder o espectro psicopata respondendo suas próprias percepções dos borrões do Teste de Rorschach.



Com informações de IFLScience.



Curte o conteúdo da GALILEU? Tem mais de onde ele veio: baixe o app da Globo Mais para ver reportagens exclusivas e ficar por dentro de todas as publicações da Editora Globo. Você também pode assinar a revista, por R$ 4,90 e baixar o app da GALILEU.