Experiência de IA na Segurança Social: Perigos e Armadilhas da Automação
A integração da IA em agências governamentais, particularmente aquelas que lidam com a segurança social, está sendo abordada com crescente escrutínio. A pressa para modernizar e automatizar processos, liderada por entidades como a DOGE de Elon Musk, levanta preocupações significativas sobre eficiência, precisão e o potencial deslocamento da supervisão humana.
A Promessa e o Perigo da Automação
A Administração da Segurança Social (SSA) introduziu recentemente um bot estilo ChatGPT, "Agency Support Companion", destinado a auxiliar os funcionários nas tarefas diárias e impulsionar a produtividade. No entanto, os relatórios iniciais sugerem um desempenho menos do que estelar. Fontes indicam adoção mínima e preocupações sobre a precisão e utilidade do bot. Um vídeo de treinamento mal executado, negligenciando o aviso contra o carregamento de informações pessoais confidenciais, minou ainda mais a credibilidade da iniciativa.
Falhas na Automação: Lições do Brasil
Experiências em outros países, como o Brasil, destacam as potenciais armadilhas da dependência excessiva de sistemas automatizados em serviços sociais. O aplicativo "Meu INSS" do Brasil, projetado para agilizar os pedidos de segurança social, utiliza visão computacional e processamento de linguagem natural para analisar documentos. Apesar de sua intenção de reduzir a burocracia, o aplicativo frequentemente rejeita pedidos legítimos devido a pequenos erros, levando a longas batalhas judiciais e dificuldades para os requerentes. O caso de Josélia de Brito, uma ex-trabalhadora de cana-de-açúcar incorretamente identificada como homem pelo sistema, exemplifica as falhas do aplicativo e as consequências reais para as populações vulneráveis.
Automação levando ao desastre
A estratégia da DOGE, caracterizada por uma rápida redução na força de trabalho federal e uma abordagem "IA em primeiro lugar", já levou a problemas significativos na SSA. Um incidente recente em que numerosos beneficiários vivos foram erroneamente marcados como "mortos" e tiveram seus benefícios cortados sublinha o potencial para o caos e disfunção. Os planos para reescrever o código da SSA usando IA em um ritmo acelerado aumentam ainda mais as preocupações sobre a qualidade e a confiabilidade do sistema resultante. Considerando os erros cometidos, uma reescrita automatizada do código da SSA pode ser um desastre.
Uma Desestabilização Deliberada?
Alguns críticos argumentam que o impulso para a automação não é sobre melhorar a SSA, mas sim sobre desestabilizá-la em preparação para a privatização. Se for este o caso, os problemas atuais que assolam a agência podem ser passos intencionais para esse objetivo.
O impulso para a automação dentro de agências governamentais é uma questão complexa com o risco de erros. Embora a tecnologia ofereça o potencial para melhorar a eficiência e reduzir a burocracia, a implementação cuidadosa, a supervisão humana e o foco na precisão são essenciais para evitar consequências não intencionais e garantir resultados equitativos para todos os cidadãos.
Fonte: Gizmodo