Tribunais mais rápidos e eficientes. O fim das filas intermináveis de processos que demoram anos para serem julgados. Menos juízes humanos, mais juízes robóticos. A promessa dos algoritmos capazes de tomar decisões e decidir futuros é cheia de paradoxos, questões éticas e desafios técnicos. Será que uma máquina, imperfeita devido aos seus vieses automáticos e análises frias, pode ser considerada melhor na tomada de decisão do que um ser humano? Experimentos na Estônia e nos Estados Unidos estão aprendendo as vantagens e desvantagens da tecnologia por meio do uso – e da regulação – dos algoritmos juízes.

Pequenas causas com auxílio de robôs na Estônia

"A justiça tarda, mas não falha" é uma frase bastante conhecida e apenas em parte verdadeira. A lentidão dos processos é excessiva, assim como os possíveis erros. Entretanto, se a ambição de alguns especialistas der frutos, pode ser que parte disso mude em breve. Na Estônia, um robô juiz já está sendo desenvolvido para atuar em pequenas causas e casos que envolvem menos dinheiro – até 7 mil euros. O objetivo é destravar o sistema que está lotado de casos, liberando a atuação de juízes e funcionários humanos para questões mais complexas.

O projeto ainda está em suas fases iniciais e a ideia é que os envolvidos no processo judicial façam upload de documentos e informações em um sistema e então a inteligência artificial tome uma decisão que pode ser contestada por um juiz humano. Por enquanto, o sistema está em fase de testes, porém ele deverá entrar em ação em breve e passará por ajustes após o feedback dos humanos que o utilizarem.

Mesmo sendo um país pequeno, a Estônia está sendo pioneira nos processos de tecnologia e digitalização. Segundo Ott Velsberg, diretor de dados do país, as autoridades estão em busca de um governo que seja o mais enxuto o possível. De acordo com ele, a qualidade do serviço não deve diminuir com a redução de mão-de-obra, graças à inteligência artificial.

Aliás, o país é um bom exemplo de adoção de tecnologia no governo: os cidadãos da Estônia já utilizam um sistema nacional de carteira de identidade, votação eletrônica e declaração digital de impostos. Nos próximos anos, a Estônia também pretende conceder à IA e aos robôs um status legal que os tornaria 'agentes robóticos', uma legislação que poderia ajudar a determinar, por exemplo, o responsável quando robôs ou máquinas controlados por AI estiverem envolvidos em um acidente.

Sistema penal americano e o COMPAS

O sistema criminal dos Estados Unidos utiliza algumas ferramentas de "avaliação de risco", uma delas é um algoritmo conhecido como COMPAS. O programa deve ajudar os juízes a determinar se um réu deve ser mantido na cadeia ou sair enquanto aguarda julgamento. Por meio do aprendizado de máquina, ele avalia o histórico do acusado e compara-o com o de outros que estão sendo processados, criando correlações. Em seguida, ele usa as correlações para prever a probabilidade de um réu ser preso por um novo crime durante o período de espera do julgamento.

Essa previsão é conhecida como "pontuação de risco" do réu e é uma recomendação: réus de "alto risco" devem ser presos para impedir que causem danos potenciais à sociedade; Réus de "baixo risco" devem ser libertados antes do julgamento. Para defensores, o algoritmo, em teoria, elimina o risco de juízes tomarem decisões guiados por motivos raciais, afirmando que esse cálculo seria uma maneira mais objetiva de julgar os casos.

O grande problema deste processo é que ele considera a quantidade de vezes que um cidadão foi detido ou abordado pela polícia como forma de determinar seu potencial de cometer crimes. Adiciona-se a isso o histórico da polícia americana em discriminar minorias raciais e você tem uma distorção no sistema. Uma investigação do ProPublica em 2016 argumentou que a ferramenta ainda era tendenciosa contra os negros, pois uma pesquisa descobriu que entre os réus não reincidentes, os negros tinham duas vezes mais chances do que os brancos de serem considerados de alto risco pelo COMPAS.

No fim, os erros cometidos por juízes e pelo COMPAS são parecidos e ainda precisamos evoluir muito na administração da justiça, com ou sem algoritmos. A grande diferença entre um juiz humano e o COMPAS é que se pode contestar decisões do juiz, enquanto o algoritmo não pode ser revisado ou interrogado publicamente.

Uma possível solução, defendem especialistas, é uma lei que busca regular o viés nos sistemas automatizados de tomada de decisão poderia ser uma solução, pois, exigiria que as empresas fizessem auditorias de seus sistemas de aprendizado de máquina quanto ao viés e discriminação de grupos específicos.

Na China os robôs recuperam até dados públicos

Os cidadãos de Pequim contam com tecnologia de ponta para receber aconselhamento jurídico: a robô Xiaofa fica alocado no Tribunal Popular Intermediário nº 1 de Pequim, ajudando o público a entender a terminologia legal. Ela sabe a resposta para mais de 40.000 questões de litígio e pode lidar com 30.000 questões legais. E ela não é a única – a China já possui mais de 100 robôs nos tribunais, reduzindo a carga de trabalho dos funcionários.

Alguns deles têm até especialidades e vão ainda mais longe: utilizam inteligência artificial para filtrar mensagens privadas ou comentários nas mídias sociais que podem ser utilizados como evidência no tribunal. Enquanto isso, a polícia de trânsito usa a tecnologia de reconhecimento facial para identificar e condenar infratores.

Um aplicativo chamado Intelligent Trial 1.0 já está reduzindo as cargas de trabalho dos juízes, ajudando-os a filtrar o material do processo e produzindo arquivos eletrônicos dos casos. Por enquanto, a ênfase está em ajudar os profissionais da lei, não substituí-los.

Além disso, a IA também pode ajudar a resolver crimes antes de um juiz ser envolvido. A VALCRI, por exemplo, realiza os aspectos de trabalho intensivo de um investigador, percorrendo textos, relatórios de laboratório e documentos da polícia para destacar áreas que justificam uma investigação mais aprofundada e possíveis conexões que os humanos possam perder.

Previsão de decisões jurídicas e o impasse na França

Existem três vertentes da atuação de robôs no sistema público de justiça: algoritmos para classificação, que analisam dados para identificar casos precedentes semelhantes; algoritmos de mineração de dados em grande escala, que facilitam encontrar fatos importantes dentro um grande volume de informações; e os algoritmos de decisão de disputas legais de baixa complexidade, como o da Estônia. Ainda assim, esse modelo exige a atuação de um juiz humano para sua validação final, ou para disputas.

Existe também uma outra vertente que tenta prever as decisões dos juízes, com base em dados de casos antigos. Isso se tornou uma polêmica na França que proibiu a publicação de estatísticas sobre decisões judiciais atribuindo penas que podem chegar a cinco anos de prisão para quem publicar. O artigo estabelece que "os dados de identidade de magistrados e servidores do Judiciário não podem ser reutilizados com o objetivo ou efeito de avaliar, analisar, comparar ou prever suas práticas profissionais, reais ou supostas".

Especialistas concordam que os sistemas algorítmicos têm um viés induzido pelos dados usados em seu desenvolvimento. Para contornar o viés, é necessário que haja transparência, procedimentos e protocolos para o treinamento desses algoritmos. A questão é que seres humanos também têm viés e isso é problema antigo quando falamos sobre justiça.

O Professor Ken Grady, da Universidade Estadual do Michigan, afirma que as pessoas acreditam mais nos humanos do que nos algoritmos para decidir o futuro dos casos, apesar de um estudo comprovar que algoritmos tiveram um desempenho mais consistente do que juízes humanos. Por isso, ele pensa que um trabalho conjunto, em que o juiz tenha acesso a dados refinados seria uma ótima melhoria nos processos.

Transparência e questionamentos de imparcialidade

Sistemas de tomadas de decisões baseadas em algoritmos são suscetíveis a falhas, e quanto mais complexos eles se tornam, mais difícil é manter a transparência de suas ações. Ao aumentar sua complexidade, aumenta também sua autonomia e eles se tornam verdadeiras caixas pretas, criando dúvidas sobre sua imparcialidade. Isso acontece com o COMPAS, já que seu processo de decisões não é totalmente aberto ao público, e é difícil compreender se suas ações foram ou não determinadas pelo viés presente no algoritmo. Pessoas que foram julgadas pelo sistema já entraram com ações para questionar essas decisões, considerando injustos os posicionamentos do programa.

É fato que a inteligência artificial vai fazer parte da justiça de forma cada vez mais ativa no futuro, seja como ferramenta de consulta, como buscadora de dados ou mesmo tomando decisões sobre processos. O sistema jurídico está atravancado por um excesso de processos e ações. Não parece haver uma maneira de prosseguir somente com as ferramentas atuais. Ainda existem, porém, muitas questões que precisam ser desenvolvidas tecnicamente e discutidas pela sociedade para que possamos chegar a um ponto em que a tecnologia trabalhe a favor dos seres humanos nos tribunais e que a justiça se torne mais eficiente.

Será que a maioria das pessoas aceitaria ser julgada por uma máquina? Já confiamos nossos dados financeiros, pessoais e hospitalares às máquinas, não é difícil pensar que, em breve, para o bem ou para o mal, entregaremos também nosso sistema judicial aos algoritmos.