O aplicativo sul-coreano SimSimi foi removido das lojas de apps brasileiras do Android e do iOS na última sexta-feira (20), segundo o blog oficial do app. De acordo com a publicação, brasileiros estariam vandalizando a inteligência artificial e causando um “impacto social negativo” no país.

O SimSimi é um app de bate-papo baseado em inteligência artificial. Ele é, nas palavras da equipe responsável, um “robô de conversa colaborativo”, o que significa que os usuários ajudam a alimentar as frases e reações do robô, que depois aparecem nos diálogos com outros usuários.

Foi essa liberdade que permitiu a alguns brasileiros vandalizarem a inteligência artificial do SimSimi. Segundo a postagem do blog, intitulada “A equipe do SimSimi pede ajuda aos usuários brasileiros”, usuários do app no Brasil estariam ensinado respostas maliciosas ao SimSimi. “O principal tipo dessas respostas é o de ameaças de crimes, como assassinato e sequestro, de crianças e de suas famílias”, diz o texto.

Por esse motivo, o app foi indisponibilizado para o Brasil nas lojas de apps do Google/Android e da Apple/iPhone. “Isso [a retirada] é inevitável porque o app do SimSimi, pelo menos nos últimos dias, tem tido um significativo impacto social negativo no Brasil”, justificam-se os desenvolvedores.

Abuso sem precedente

O vídeo de divulgação do SimSimi (acima) reconhece que “palavrões” podem ser ensinados ao app. Nesse caso, orienta o app, basta reportar o problema para que as falas sejam removidas.

No caso do abuso brasileiro, os responsáveis pelo app disseram que “esse tipo de abuso não tem precedente e o Brasil será excluído de baixar o SimSimi até que tenhamos certeza de que tenhamos um mínimo controle sobre esse novo tipo de abuso”.

A postagem da equipe diz, ainda, que a equipe do SimSimi não tem informações suficientes para dar uma resposta apropriada, “principalmente por barreiras linguísticas” — eles se comunicam em coreano e inglês.

Um formulário, para que brasileiros indiquem respostas abusivas que encontrem no app, foi disponibilizado.

Nas páginas do SimSimi nas lojas de apps, alguns comentários de usuários brasileiros citam os abusos que levaram à suspensão da oferta do app no país, como referências a assassinatos e pactos diabólicos. “Baixei por curiosidade. Fala de estupro, coisas do mal... Ridículo isso existir como app. Deveriam tirar da Play Store!”, escreveu uma usuária. Outra, disse que “ele falou que era um demônio”.

O SimSimi foi removido do Brasil na última sexta (20). Na manhã desta terça (24), o SimSimi continuava indisponível no país. Quem já havia baixado ele antes da suspensão poderá continuar usando o SimSimi sem qualquer problema.

Precedentes

O SimSimi já esteve envolvido em polêmicas similares. Em 2016, o site especializado em tecnologia The Next Web compilou alguns diálogos pouco saudáveis dentro do app, em inglês. E em 2017, o Daily Mail reportou que o app estava sendo usado para a prática de bullying em escolas inglesas. Em ambos os casos, não houve suspensão da oferta do app em algum país específicos, como no caso brasileiro.

Não é a primeira vez que algo do tipo acontece. Em março de 2016, a Microsoft lançou, no Twitter, a inteligência artificial Tay. Ela interagia com outros usuários da rede social e aprendia a partir das respostas que recebia. Em pouco tempo, Tay começou a publicar frases racistas e sexistas, o que levou a Microsoft a suspendê-la 16 horas após ela começar a funcionar. Ela voltou a aparecer alguns dias depois do incidente, mas “travou” em uma frase e foi desconectada outra vez, agora para sempre.

Em dezembro do mesmo ano, Satya Nadela, presidente executivo da Microsoft, afirmou que Tay “teve uma enorme influência em como a Microsoft está abordando inteligência artificial”. Na ocasião, ele anunciou Zo, a sucessora de Tay, que opera em conversas privadas. Ela ainda está funcionando — e, até agora, sem palavrões ou obcenidades.