IA Prevê Assassinatos no Reino Unido: Quão Perto Estamos de 'Minority Report'?
Num movimento saído diretamente de um romance de ficção científica distópico, o governo do Reino Unido está a desenvolver um algoritmo para prever quem é mais propenso a cometer assassinato. Sim, você leu bem. O chamado "Projeto de Previsão de Homicídios", agora sutilmente renomeado como "Partilha de Dados para Melhorar a Avaliação de Risco", visa sinalizar potenciais assassinos antes que eles ajam. O que poderia dar errado?
Graças aos pedidos de Liberdade de Informação, sabemos que o Ministério da Justiça tem vasculhado dados de centenas de milhares de pessoas. Esses dados não se limitam apenas a pessoas com antecedentes criminais; inclui suspeitos, vítimas, testemunhas e até pessoas desaparecidas. Também inclui detalhes sensíveis sobre saúde mental, dependência e deficiências. As autoridades afirmam que usam apenas dados de pessoas com pelo menos uma condenação criminal, mas o escopo do projeto levanta sérias preocupações.
O Problema com o Policiamento Preditivo
Não é preciso ser um gênio para ver o potencial de abuso aqui. As ferramentas de policiamento preditivo têm um histórico de direcionamento desproporcional às comunidades marginalizadas. Pegue o Sistema de Avaliação de Ofensores do Reino Unido, por exemplo. É usado para prever taxas de reincidência, influenciando as decisões de sentença. No entanto, as revisões mostraram que muitas vezes é impreciso, especialmente para crimes não violentos, e avalia injustamente os infratores negros em comparação com os infratores brancos. Esses preconceitos não são exclusivos do Reino Unido. Os preconceitos raciais nos dados, decorrentes do policiamento excessivo histórico de certas comunidades, levam a resultados distorcidos e perpetuam as desigualdades sistêmicas. O sistema é viciado e esses algoritmos apenas amplificam o problema.
Precisamos lembrar o conto preventivo de Minority Report. O filme não foi feito para ser um guia prático. Era um aviso sobre os perigos da justiça preventiva e da erosão das liberdades civis. Esperemos que possamos aprender com a ficção antes que ela se torne a nossa realidade.
Fonte: Gizmodo