O mau funcionamento do Facebook durante esta quarta-feira (03/07) permitiu que alguns usuários conseguissem acessar, por assim dizer, "a Matrix da rede social" – uma pequena parte dela, na verdade. Isso porque os erros no carregamento de imagens acabaram deixando em evidência as etiquetas (tags) que os sistemas da companhia usam para marcar as fotos. Alguns membros compartilharam essa visão "privilegiada" da realidade com o resto da comunidade no Twitter.

Ao procurar por suas fotos carregadas no Facebook, é bem possível que você veja um texto com os seguintes dizeres: "imagem pode conter: pessoas sorrindo, pessoas dançando, casamento" ou apenas "imagem pode conter: gato e cachorro". Em resumo, é assim que a sua vida e as suas capturas são lidas por um computador. Este é o jeito que a inteligência artificial do Facebook julga seu perfil.

Oh yeah! I forgot Facebook uses machine learning to tag our photos with what it sees in the picture.



To be fair, "one person, beard" is pretty much a spot-on description of me. pic.twitter.com/fCpydUxtpz — Zack Whittaker (@zackwhittaker) July 3, 2019

As mesmas tags também estão aparecendo no Instagram. Além de detalharem o cenário e descrições de objetos presentes nas imagens, elas também indicam quem está na foto com base no reconhecimento facial do Facebook. A rede social usa machine learning para ler fotos desta forma desde, pelo menos, abril de 2016, como parte de seus esforços em favor da acessibilidade. Essas etiquetas são usadas para descrever fotos e vídeos para usuários com deficiências visuais. O que ainda não está claro é se a empresa usa essa informação para direcionar anúncios - ainda que seja muito provável.

Em 2017, um programador decidiu criar uma extensão do Chrome que mostrasse essas tags. Ele escreveu à época: "Eu acho que muitos internautas não percebem a quantidade de informação que é rotineiramente extraída das fotografias." A julgar pelas reações no Twitter, esta é certamente uma novidade para muitas pessoas. O The Verge entrou em contato com o Facebook para confirmar se esses dados são usados para segmentar anúncios e está no aguardo de uma resposta.

One nice thing about Facebook being utterly borked right now is it gives you a chance to see what its (very nice!) accessibility feature auto-alting images does.https://t.co/a3w9PcOosR pic.twitter.com/dnTXOih8Hp — Dieter Bohn (@backlon) July 3, 2019

Independentemente de como essa informação está sendo usada, ao menos a instabilidade no Facebook revelou uma parte dos bastidores da rede social e de sua larga operação de coleta de dados. Também mostra até que ponto o mundo visual se tornou legível por máquinas. Melhorias no deep learning nos últimos anos realmente revolucionaram o mundo da visão mecânica, tornando mais fácil o armazenamento e a extração de informações cruciais. Ainda bem que temos as brechas para romper o universo oculto dessas grandes corporações, de vez em quando.

Fonte: The Verge