Meta Falha em Controlar Golpes de Deepfakes com IA

06/06/2025 Tecnologia

O Conselho de Supervisão emitiu um relatório crítico sobre o modo como o Meta lida com golpes de deepfakes de celebridades, afirmando que a empresa não está aplicando adequadamente suas próprias políticas. As descobertas do conselho decorrem de um caso envolvendo um anúncio fraudulento de cassino online com um vídeo manipulado por IA do jogador de futebol aposentado Ronaldo Nazário. Apesar de inúmeras denúncias, o anúncio, visto mais de 600.000 vezes, permaneceu na plataforma por um período considerável antes de ser removido.

Aplicação Insuficiente

A investigação do Conselho de Supervisão revelou que os processos de moderação de conteúdo do Meta são insuficientes para lidar com o problema generalizado de golpes de celebridades gerados por IA. O relatório destaca que os revisores não têm a autoridade e o treinamento para identificar e remover eficazmente esse conteúdo, levando a um número significativo de golpes passando despercebidos. O conselho critica especificamente a abordagem do Meta, observando inconsistências na aplicação e uma tendência de priorizar apenas casos escalonados.

Resposta do Meta e Preocupações Contínuas

O Meta, em resposta, contestou vários pontos levantados pelo conselho, destacando seus esforços contínuos para combater golpes, incluindo a implementação de tecnologia de reconhecimento facial. No entanto, as preocupações do Conselho de Supervisão se estendem além deste único caso. Relatos de golpes semelhantes com figuras como Elon Musk e Jamie Lee Curtis, juntamente com preocupações mais amplas do setor, sugerem um problema sistêmico. Relatórios externos indicam que as plataformas do Meta representam uma proporção significativa de golpes relatados em várias plataformas financeiras. Isso levanta sérias preocupações sobre a eficácia das estratégias atuais do Meta e sua disposição de combater agressivamente atividades fraudulentas.

A recomendação do Conselho de Supervisão insta o Meta a melhorar suas diretrizes internas, capacitar os revisores de conteúdo e fornecer treinamento para identificar conteúdo manipulado por IA. A situação destaca um desafio mais amplo enfrentado pelas plataformas de mídia social à medida que a tecnologia de deepfake de IA se torna cada vez mais acessível e sofisticada.