IA no Governo: Cuidado com os Casos de Uso
O governo está mergulhando de cabeça no mundo da IA generativa, implementando tecnologia semelhante ao ChatGPT em várias agências federais. Embora a ideia de automatizar tarefas e otimizar processos pareça atraente, alguns especialistas estão pedindo cautela. A verdadeira questão é: estamos nos precipitando nisso sem entender completamente as consequências?
Imagine o Departamento de Assuntos de Veteranos usando IA para escrever código, ou o Exército dos EUA empregando "CamoGPT" para limpar documentos de referências à diversidade. Parece futurista, talvez até um pouco assustador. E embora o Departamento de Educação preveja o uso de IA para responder a perguntas de estudantes sobre ajuda financeira, a preocupação subjacente permanece: esta tecnologia está realmente pronta para tarefas tão críticas?
O problema, como apontado por Meg Young, pesquisadora da Data & Society, é que estamos presos em um "ciclo de hype insano". Embora alguns chatbots governamentais estejam atualmente limitados a tarefas gerais, como redigir e-mails, o impulso para expandir suas responsabilidades está em andamento. E é aí que as coisas ficam complicadas. Por exemplo, a Administração de Serviços Gerais (GSA) deseja aproveitar a IA para aquisições - o complexo processo de compras do governo. A aquisição envolve negociações complexas de contratos com requisitos de conformidade rigorosos. Embora a IA possa teoricamente ajudar na pesquisa de documentos, os advogados podem achá-la muito pouco confiável para negociações de alto risco. Na verdade, pode até ser mais rápido e seguro simplesmente copiar e colar a linguagem existente e verificada. O risco de erro é simplesmente muito alto.
Depois, há a questão do raciocínio jurídico. Um estudo revelou que até mesmo os chatbots de IA projetados para pesquisa jurídica cometiam erros factuais em uma porcentagem significativa das vezes. Um exemplo particularmente alarmante envolveu um chatbot afirmando que a Suprema Corte de Nebraska anulou a Suprema Corte dos EUA! É fácil entender como isso pode levar à desinformação, e as consequências podem ser desastrosas.
Embora os potenciais benefícios da IA no governo sejam inegáveis, especialmente em áreas como automação de tarefas administrativas, devemos ter cautela. Um programa piloto na Pensilvânia, por exemplo, demonstrou uma economia de tempo significativa usando o ChatGPT para tarefas rotineiras. No entanto, uma abordagem medida e bem planejada é crucial. Não podemos permitir que a empolgação obscureça nosso julgamento e leve a sistemas de IA mal implementados.
Em última análise, trata-se de encontrar o equilíbrio certo. A IA tem o potencial de revolucionar as operações governamentais, mas não deve acontecer à custa da precisão, justiça ou transparência. Como Joshua Blank, professor de direito da Universidade da Califórnia, Irvine, aponta corretamente, uma cadeia de comando clara e uma supervisão robusta são essenciais para garantir que essas tecnologias sejam usadas de forma responsável.
Fonte: Gizmodo