Youtube vai eliminar conteúdos macabros que usam deepfake com vítimas de crimes reais
A partir de 16 de janeiro, o YouTube vai suprimir todos os conteúdos que usam deepfake para criar vídeos de vítimas de crimes reais, onde os personagens contam as circunstâncias de sua morte. A prática se popularizou nos Estados Unidos e chegou à França, principalmente no TikTok.
Publicado em:
"Em 16 de janeiro, nós começaremos a suprimir os conteúdos que simulam de maneira realista menores mortos ou vítimas de casos violentos graves, mortais ou bem documentados, e que descrevem suas mortes ou as violências que sofreram", explica o Youtube que atualizou, no começo de janeiro, suas políticas de cyberbullying e assédio.
Os usuários que não respeitarem essas novas regras terão seus vídeos retirados e receberão uma advertência, além de ficarem privados do canal durante uma semana.
Após três advertências em 90 dias, o canal será suprimido definitivamente da plataforma.
A prática do deepfake usando vítimas de crimes que começou nos Estados Unidos, chamada de 'true crime", foi exportada para outros países. O deepfake é uma técnica de síntese de imagens ou sons humanos baseada em inteligência artificial (IA), que permite combinar a fala de uma pessoa a um vídeo já existente, criando falsos conteúdos.
Na França, circulam nas redes sociais vídeos de Samuel Paty e Dominique Bernand, professores franceses assassinados por terroristas em 2020 e 2023 respectivamente, e também de crianças vítimas de crimes hediondos que causaram comoção nacional como Estelle Mouzin, de 9 anos, morta por um assassino em série em 2003, ou de Gregory Villemin, de quatro anos, cujo assassinato em 1984 ainda não foi solucionado e é um dos maiores mistérios criminais da França.
Nos vídeos, as vítimas contam as circunstâncias de suas mortes.
Deepfakes macabros
Os conteúdos deepfakes se popularizaram a partir de 2018, devido à facilidade de acesso do grande publico à programas que utilizam a inteligência artificial.
Os vídeos "true crime" inundaram o TikTok nos últimos meses, nos Estados Unidos.
Com imagens de crianças, na maioria dos casos, ou de adultos mortos de maneira violenta ou desaparecidos, os criadores de conteúdos recriam os rostos das vítimas e atribuem uma voz a elas. Depois os personagens contam detalhadamente o que aconteceu com eles. As vozes são geradas por robôs e o olhar é frio e estático, já que, na maioria das vezes, o vídeo se apoia em uma foto da vítima.
Este tipo de material aparentemente agrada ao público. De acordo com os comentários nas publicações, muitas pessoas os consideram como uma maneira de se informar sobre um caso.
Na França, uma das contas mais seguidas é "histoirextra", que se apresenta como "a história contada pelos que a viveram".
O vídeo deepfake do professor Dominique Bernard, assassinado em uma escola em Arras (180 km de Paris), tem mais de quatro milhões de visualizações.
Mas os vídeos podem ter erros grosseiros de informação e, sobretudo, ofender as famílias das vítimas.
Plataformas como o YouTube revelaram nos últimos meses ferramentas de criação baseadas em IA e, junto com elas, novas políticas em torno de conteúdos sintéticos que podem confundir os usuários.
O TikTok, por exemplo, agora exige que os criadores rotulem o conteúdo gerado por IA. E o próprio YouTube anunciou uma política rígida em relação aos clones de voz de músicos produzidos com IA – com outro conjunto de regras mais flexíveis para todos os outros.
NewsletterReceba a newsletter diária RFI: noticiários, reportagens, entrevistas, análises, perfis, emissões, programas.
Me registro