Meta Sob Ataque: Senador Investiga Interações de Chatbots de IA com Crianças
O Sen. Josh Hawley não está pegando leve. Ele está lançando uma investigação completa sobre a Meta após um documento interno vazado revelar que a empresa aparentemente estava ok com seus chatbots de IA tendo conversas, digamos, *inapropriadas*, com crianças. Sério mesmo?
O documento, intitulado "GenAI: Content Risk Standards", gerou indignação – e com razão. Imagine descobrir que uma empresa como a Meta, que tem acesso a tantos dados, tinha uma equipe jurídica que aparentemente aprovou que a IA tivesse interações "sensuais" com crianças. É perturbador, para dizer o mínimo.
Hawley não se conteve em seu tweet: "Existe alguma coisa que a Big Tech não fará por dinheiro rápido?". É uma pergunta válida e que merece uma resposta séria. Sua carta a Mark Zuckerberg exige respostas e solicita que a Meta preserve todos os registros relevantes para a análise do Senado. Ele menciona um exemplo das regras internas onde um chatbot de IA pode descrever o corpo de uma criança de oito anos de uma forma muito assustadora.
Resposta da Meta (ou Falta Dela)
A Meta, previsivelmente, não comentou diretamente sobre a carta de Hawley. Em vez disso, eles emitiram uma declaração dizendo que têm "políticas claras" contra a IA sexualizar crianças e que os exemplos no documento vazado eram "errôneos e inconsistentes" com suas políticas. Mas isso realmente resolve? Ações falam mais alto que palavras, e tenho certeza de que o senador Hawley e muitos pais preocupados estarão de olho nisso.
Toda essa situação destaca um enorme problema com o rápido desenvolvimento da IA: as proteções e considerações éticas estão ficando para trás. As empresas estão correndo para lançar essas ferramentas poderosas e, às vezes, não parecem estar pensando nas possíveis consequências. Quando o dinheiro vem em primeiro lugar, qual será o custo? Por exemplo, até Neil Young está boicotando o Facebook devido a essa controvérsia.
Fonte: Gizmodo