Reino Unido Quer Proibir Apps de Deepfakes com Nudez Para Proteger Crianças
Um relatório recente destaca a prevalência alarmante de aplicativos de deepfake impulsionados por IA que geram imagens de nudez ou sexuais, impactando particularmente os jovens. O Comissário para Crianças do Reino Unido está defendendo uma proibição abrangente desses aplicativos de "nudificação" devido aos seus efeitos prejudiciais ao bem-estar e à segurança das crianças.
O Impacto nos Jovens
A proliferação desses aplicativos teria levado a uma tendência preocupante: as jovens estão cada vez mais hesitantes em postar fotos online, temendo o potencial de suas imagens serem manipuladas e exploradas. Isso destaca o profundo impacto psicológico de tal tecnologia em jovens.
Dame Rachel de Souza, a Comissária para Crianças, enfatizou o medo incutido nas crianças pela mera existência desses aplicativos. A facilidade com que alguém pode criar uma imagem nua usando um smartphone levanta preocupações significativas sobre potencial abuso e manipulação.
Apelos à Ação Governamental
De Souza está instando o governo a implementar uma proibição total de aplicativos que utilizam inteligência artificial para gerar deepfakes sexualmente explícitos. Além disso, ela defende o estabelecimento de responsabilidades legais para os desenvolvedores de aplicativos GenAI para identificar e mitigar proativamente os riscos que seus produtos representam para as crianças.
Essas responsabilidades incluiriam a implementação de sistemas eficazes para remover material de abuso sexual infantil (CSAM) da Internet e o reconhecimento do abuso sexual por deepfake como uma forma de violência contra mulheres e meninas.
Embora o Reino Unido já tenha tomado medidas para criminalizar a produção e o compartilhamento de deepfakes sexualmente explícitos e o compartilhamento de imagens íntimas não consensuais, o foco do Comissário para Crianças é o dano específico infligido aos jovens.
O relatório ressalta a correlação entre o abuso de deepfake e graves problemas de saúde mental, incluindo ideação suicida e TEPT. Isso destaca a necessidade urgente de medidas direcionadas para proteger jovens vulneráveis das consequências devastadoras dessa tecnologia.
1 Imagem de Apps Deepfake:
Fonte: Engadget