Longe de ser “tecnofóbico” ou ludita: uso diariamente aparatos tecnológicos, e sei o quanto podem facilitar nossas vidas guiando-nos pelo trânsito caótico, agilizando compras, permitindo amplo acesso à informação e conexão com pessoas distantes; sei também do uso estratégico de algoritmos para tornar eficiente a busca por algo na internet e mais produtivas as campanhas publicitárias nas redes sociais; mas vislumbro um grave problema quando se atribui aos tais algoritmos poderes decisórios.
Um dos argumentos que se levanta em prol do uso de softwares para a tomada de decisões judiciais é o de que um computador teria acesso imediato tanto ao gigantesco banco de dados de decisões passadas quanto sobre o comportamento prévio do acusado. Outro é o de que os algoritmos evitariam que “vieses” dos juízes (humanos que são) influenciassem a decisão. Surge a questão: não haveria nenhum viés embutido no algoritmo, já que elaborado por humanos? Ou, por outra: de que forma um sistema baseado em estatísticas poderia dar conta da intervenção do irracional na vida humana – retratado com tanta maestria por Tolstói em suas obras (como no ato, imprevisto e impensado, de Anna Kariênina ao jogar-se sob as rodas do trem)? E como lidaria com temas humanos – ah, tão humanos – como empatia, perdão e redenção? A tecnologia nos impacta e nos molda – como nos mostra o excelente livro da professora do MIT Sherry Turkle, Alone together: why we expect more from technology and less from each other (ao qual tomei de empréstimo o subtítulo deste artigo). Mas até que ponto permitiremos que nos substitua?
Estabelecer correlações entre dados estatísticos e prática de crimes não implica necessariamente demonstrar causa e efeito. Assim, se determinado algoritmo usa, para definir a probabilidade de um réu reincidir, dados envolvendo questões de cor e classe social, por exemplo, o resultado, como ressalta Karen Hao em artigo publicado na MIT Technology Review (21.01.2019), será muito desfavorável às populações que, por preconceito, ao longo da História foram desproporcionalmente mais visadas pela lei – como minorias e pessoas de baixa renda –, pois atingirão altos “escores” de (suposta) probabilidade de reincidência, perpetuando-se assim o ciclo de injustiça.
Curiosamente, uma pesquisa desenvolvida no Dartmouth College apontou que o emprego de algoritmos para prever reincidência de criminosos não tem índice de acerto melhor do que o de voluntários aleatoriamente recrutados na internet! (cf. A popular algorithm is no better at predicting crimes tham random people, The Atlantic, 17.01.2018 – artigo que ainda menciona estudo segundo o qual o sistema Compas tem vieses contra os afro-americanos).
Sublinhei o termo aleatoriamente. A ideia de “tirar o peso da responsabilidade” por nossos atos e decisões pode parecer sedutora a alguns... Há trabalhos, inclusive, que buscam mapear suas (pretensas) vantagens e desvantagens (ver, por exemplo, Neil Duxbury, Random Justice, Oxford University Press). Exploro isso, convidando o leitor a refletir, em meu romance O silêncio dos livros (Ed. Pandorga, 2019) por duas vertentes: de um lado, alguns personagens delegam a aplicativos a tomada de decisões cruciais (desde saber “se amam” determinada pessoa, até se devem ou não matar um desafeto); de outro, um estranho sistema judicial decide se alguém permanecerá preso por décadas ou se será solto a partir de um aplicativo que entrega resultados... aleatórios.
Sempre que penso no emprego de dispositivos para decidir (sob o argumento de “descobrir”) algo, vem à mente a “máquina de Voight-Kampff” do filme Blade Runner, utilizada para identificar se um indivíduo seria humano ou “replicante” (outro dos temas abordados no filme é o da engenharia genética, que também aparece em meu romance – mas isso é matéria para outro texto). Sintomático que a história do filme, produzido em 1982, se passe neste nosso ano de 2019.
Voltemos a Mr. Loomis. Talvez seja de fato culpado; mas não é esse o ponto. Sua Defesa recorreu da sentença, a qual foi, no entanto, mantida pela Suprema Corte do Estado de Wisconsin, sob o argumento de que se teria chegado à mesma decisão condenatória mesmo sem usar a avaliação feita pelo algoritmo. Aqui temos um paradoxo: ou bem o algoritmo não teve nenhuma influência na decisão do juiz – sendo, portanto, inútil – ou teve e, neste caso, parte da atividade humana – julgar com responsabilidade – foi delegada a uma máquina. E, para tornar o processo ainda mais kafkiano (como o do pobre Josef K, atormentado por uma acusação de crime que desconhece em O processo, de Kafka), ao se manifestar perante a Suprema Corte americana para que não julgasse o caso (e, de fato, tal Corte declinou de julgar), a Procuradoria Geral sustentou que Loomis era “livre para questionar a avaliação e explicar suas possíveis falhas” – algo praticamente impossível, tendo em vista que o algoritmo é sigiloso, não tendo a ele acesso nem mesmo os advogados do caso.
Poderíamos perguntar por que subtrair aos humanos a atribuição (e a responsabilidade) de julgar casos criminais. Abro o interessantíssimo livro Gadget: você não é um aplicativo!, de Jaron Lenier, um dos pais da tecnologia da realidade virtual, e encontro o tópico “Fazendo as pessoas serem obsoletas para que os computadores pareçam ser mais avançados”. Bastante elucidativo.
Não sei o que foi feito daquela garotinha portuguesa, mas espero que tenha algum dia conseguido ao menos um pouco da atenção que mendigava aos pais. Afeiçoei-me de tal maneira a ela – embora sem jamais tê-la conhecido – que até lhe dei um nome: Alice. Ela transformou-se numa das principais personagens de O silêncio dos livros, que traz na contracapa a provocação: qual seria o destino de uma sociedade que, fascinada pelos avanços tecnológicos, abolisse os livros?
Contra a fé sonâmbula em que a tecnologia é sempre superior ao elemento humano, vale uma antiga, por vezes desacreditada, mas sempre eficiente vacina: a Literatura. “É na Literatura que a Humanidade se confessa: é ela o espelho no qual nos vemos desnudados, podemos então nos tornar um pouco melhores (...) Através das personagens conseguimos observar o mundo com outros olhos, saboreando vidas que não as nossas e, assim, melhor entender os que nos cerca” – diz um dos personagens.
Como escritor, gosto de convidar o leitor a reflexões formulando perguntas. Ao finalizar este texto, indago-me novamente sobre as razões pelas quais chegamos a isso tudo, e ocorre-me parafrasear, com um “talvez” (porque o romance é campo de perguntas, não de respostas engessadas), o subtítulo deste artigo: porque esperamos tanto da tecnologia e tão pouco uns dos outros.
*Escritor, Doutor em Direito, promotor de Justiça, fotógrafo. Autor de O silêncio dos livros (romance), Naufrágios (contos) e de obra jurídica
