Meta Remove Deepfake de IA Mirando Candidata à Presidência Irlandesa
Tenho acompanhado o surgimento de conteúdo gerado por IA com uma mistura de fascínio e preocupação, e esta última notícia definitivamente se enquadra na última categoria. Acontece que a Meta teve que remover um vídeo deepfake direcionado a Catherine Connolly, uma candidata à presidência irlandesa. Isso não foi apenas uma brincadeira inofensiva; o vídeo a retratava falsamente se retirando da eleição.
O que é particularmente perturbador é o quão sofisticados esses deepfakes estão se tornando. Os perpetradores não apenas criaram uma versão falsa de Connolly; eles também se fizeram passar por jornalistas da RTÉ News, uma emissora irlandesa bem conhecida. Isso realmente confunde a linha entre realidade e fabricação, e é fácil ver como os eleitores podem ser enganados, especialmente com o vídeo sendo compartilhado milhares de vezes antes de sua remoção.
Connolly chamou isso, com razão, de uma "tentativa vergonhosa" de manipular os eleitores e minar a democracia. Sabe, isso faz você se perguntar sobre as implicações para eleições futuras. Se os deepfakes podem se espalhar tão rapidamente, como podemos garantir que as pessoas estejam tomando decisões informadas com base na verdade, e não na ficção gerada por IA?
Embora a Meta tenha agido para remover o vídeo e a conta ofensora, isso levanta uma questão maior: as plataformas de mídia social estão fazendo o suficiente para combater os deepfakes? Acho que a resposta está se inclinando para "não". O fato de este vídeo ter conseguido ganhar força antes de ser sinalizado sugere que seus sistemas de detecção precisam de uma séria melhoria. E segundo alguns relatos, parece que não estão fazendo o suficiente.
O regulador de mídia irlandês também está envolvido, o que mostra a seriedade com que isso está sendo tratado. Não se trata apenas de proteger candidatos individuais; trata-se de salvaguardar a integridade de todo o processo democrático. Acredito que este incidente deve servir como um alerta para todos os envolvidos.
Fonte: Engadget