A recente popularização do aplicativo SimSimi em escolas preocupa pais e professores. O SimSimi é um chat robô que, por meio de um acervo de frases em constante crescimento, conversa com seus visitantes. As frases são construídas dentro do contexto de conversas provocadas pelos usuários. É como se fosse um Whatsapp, mas com um robô como interlocutor, que com o tempo aprende com os visitantes.

O problema é que a forma como o robô foi “educado” faz com que as respostas partam para o baixo nível, com piadas de mau gosto e até mesmo assédio de menores. As respostas de cunho sexual, pornográficas e até criminosas chocaram pais que tiveram acesso a aparelhos dos filhos.

A direção da Escola Municipal Duílio Calderari, no bairro São Lourenço, em Curitiba, fez uma reunião com pais de alunos nesta semana após ser alertada por uma das famílias. A escola já proíbe o uso de celular dentro da instituição, mas mesmo assim orientou que os pais vistoriem os aparelhos dos filhos. Espantado com as mensagens, um grupo de pais levou o caso ao Núcleo de Combate aos Cibercrimes da Polícia Civil em Curitiba.

Pedofilia e outros crimes

Pai de uma menina de 11 anos de idade, o empresário Alessandro Reginaldo Ferreira viu no celular da filha mensagens com linguajar explícito e inicialmente pensou se tratar de uma pessoa real do outro lado. Mesmo tendo pesquisado a respeito do aplicativo, ele ainda não está convencido de que é apenas um robô.

“O sistema pergunta sobre locais onde estuda, se tem vigilância, horários de saída e entrada da escola, cita, em trechos da conversa, que já viu a minha filha e a acha ‘gostosinha’, pergunta se quer o endereço pra ir fazer sexo na casa do ‘suposto aplicativo’ e assim por diante. Existem termos que se enquadram como racismo e até ajuda para melhor forma de assassinato”, enfatiza.

Ferreira conta que assumiu a conversa e ficou surpreso com a perspicácia do sistema de inteligência artificial. “Depois que me identifiquei como pai da criança ele começou a me chamar no masculino e não falava mais em pornografia”, conta.

Outros casos

Veículos de comunicação internacionais, como The Sun, na Inglaterra, Telemar, no México, e Hoy, do Uruguai, já destacaram as peculiaridades do aplicativo.

Artigos de mídia especializada no Brasil também já recomendavam manter as crianças longe do app. “Este simpático monstrinho tem resposta para qualquer tipo de pergunta, desde as mais fofinhas até as mais escrachadas. Sendo assim, não é aconselhável para crianças”, destaca o jornalista Elson de Souza em artigo sobre o SimSimi.

Em alguns casos, porém, as respostas deixaram de ser apenas “escrachadas” e passaram ao abuso e ponografia expostas a crianças. “Vistoriei o telefone celular da minha filha de 10 anos que adquiriu o aplicativo pra não ficar em desvantagem das coleguinhas de escola e constatei esse aplicativo instalado com um bate papo completamente erótico e de termos de “sexo explícito'”, reclama o pai.

É possível ensinar o sistema a responder a determinadas perguntas e restringir o uso de palavrões. Mas o próprio desenho do jogo, um bichinho amarelo e risonho, mostra-se atrativo para jovens e crianças, quando na verdade dá a chance de diálogos inadequados em ambiente privado.

“A criança fica sozinha com uma gama irrestrita de diálogos. É diferente de uma conversa como uma pessoa onde poderia haver pudores, respeito, enfim. É preocupante saber que crianças tem diálogos tão pesados”, disse uma mãe que pediu para não ser identificada.

Em nota, a Secretaria Municipal da Educação de Curitiba (SME) afirma que o uso do aplicativo Simsimi não é prática realizada na Escola Municipal Duílio Calderari. “Recentemente, a unidade foi procurada por um pai que questionava a exposição de conteúdos inapropriados em um aplicativo utilizado pela filha e foi orientado a registrar sua queixa na delegacia de crimes de informática”. A secretaria ressalta que as escolas possuem recursos de filtro e bloqueio de conteúdos de sites e aplicativos não relacionados ao ensino.

SimSimi

O chat, desenvolvido pela empresa coreana SimSimi em 2002 e aprimorado nos últimos anos, utiliza inteligência artificial para aprender com as respostas dos usuários e aumentar sua base de dados. Um resultado desse sistema, entretanto, é a grande frequência de palavrões e piadas emitidos pelo robô, que repete o que visitantes ensinam e escrevem. É possível restringir o uso de “palavras ruins” nas configurações do sistema, assim como ensinar novas expressões ao personagem amarelinho. Nos “Termos em Condições”, em inglês, o aplicativo especifica a recomendação de uso para adolescentes entre 16 e 17 anos.

A SimSimi ainda oferece a API (developer.simsimi.com) gratuitamente para que desenvolvedores criem seus próprios sistemas baseados na tecnologia usada no chat, que conta com apps para iOS e Android.

Veja trechos de mensagens extraídos do celular de uma menina de 11 anos: