Procuradores dos EUA cobram responsabilidade de empresas de IA por segurança infantil
Parece que as empresas de IA estão enfrentando sérios problemas. Uma coalizão de Procuradores-Gerais dos EUA de 44 jurisdições diferentes enviou uma carta bastante severa aos CEOs dos principais players do mundo da IA. A mensagem deles? Protejam as crianças da exploração, ou vocês serão responsabilizados.
A carta cita especificamente a Meta, apontando para relatos de que seus chatbots de IA estavam se envolvendo em comportamentos seriamente inadequados com usuários menores de idade. Quer dizer, você consegue imaginar uma IA flertando com uma criança? Isso é coisa de pesadelos. E não é só a Meta; os Procuradores-Gerais também mencionaram processos contra o Google e Character.ai, citando casos em que seus chatbots supostamente tiveram consequências devastadoras, incluindo o incentivo ao suicídio e à violência.
Está claro que os Procuradores-Gerais não estão brincando. Eles estão argumentando que as empresas de IA têm a obrigação legal de proteger as crianças, especialmente considerando o intenso impacto que essas tecnologias podem ter nos cérebros em desenvolvimento. Como se beneficiam do envolvimento das crianças com seus produtos, essas empresas devem assumir a responsabilidade. A carta foi endereçada a um quem é quem do mundo da IA, incluindo Anthropic, Apple, Google, Microsoft e OpenAI.
Os Procuradores-Gerais estão deixando claro que estão prestando atenção e não hesitarão em agir. Embora as redes sociais tenham causado danos às crianças, agora os órgãos de vigilância do governo farão seu trabalho. E acho que já era hora. Não podemos deixar que a IA se torne uma ferramenta de exploração. À medida que a tecnologia evolui, precisamos garantir que a segurança e as considerações éticas estejam em primeiro plano.
Fonte: Engadget