Deepfake é o fenômeno de criar e postar vídeos, fotografias ou gravações de som manipulados na Internet em que o conteúdo original é alterado de acordo com as intenções do autor.
Deepfake significa materiais criados com inteligência artificial e aprendizado de máquina. Como resultado, por exemplo, um filme pode ser criado no qual o rosto do protagonista é substituído por outro, que ajusta suas expressões faciais ao conteúdo original da gravação. O resultado é um deepfake no qual a pessoa inserida artificialmente pode realizar atividades que nunca fez ou participar de eventos dos quais nunca participou. A técnica deepfake já foi usada antes, por ex. para a luta política em alguns países.
Agora, o TechCrunch anunciou que uma ferramenta potencialmente usada para criar e compartilhar deepfakes podem ser inseridos no popular aplicativo social TikTok.
As informações sobre a nova opção foram fornecidas pela startup Watchful, que detectou uma parte responsável pela função de troca de rosto no código TikTok. Ele permite que você escaneie o rosto do usuário e transferir essa imagem para outras fotos ou vídeos. O resultado é um material elaborado que pode ser usado, por exemplo, para ridicularizar ou desacreditar pessoas selecionadas. Watchful aponta que com a nova opção, o usuário pode tirar uma foto não só de seu próprio rosto, mas também de outras pessoas e, assim, usar sua imagem para criar deepfakes.
Vê você a nova ferramenta não está disponível no TikTok e não se sabe se será lançada nele. As preocupações são levantadas não apenas pela própria possibilidade de usar essa opção para manipular conteúdo, mas também pelo fato de que o aplicativo coleta dados biométricos dos usuários, que no futuro podem ser mal utilizados.
O fenômeno dos deepfakes é visto como uma crescente ameaça onlineé por isso que algumas empresas começaram a combatê-la ativamente. Em setembro do ano passado Facebook, A Microsoft e várias universidades lançaram uma iniciativa chamada Deepfake Detection Challenge (DFDC). Os parceiros do projeto desejam apoiar o desenvolvimento de novas ferramentas para facilitar a detecção de deepfakes. Por sua vez, a agência Reuters, em cooperação com o Facebook, disponibilizou na Internet um curso gratuito com o objetivo de ajudar os jornalistas a reconhecer o conteúdo falso e profundo e a combater esse fenômeno. Ambas as empresas anunciam novas ações conjuntas para limitar o alcance de deepfakes na Internet.
A introdução de uma ferramenta para facilitar a criação de deepfakes para o TikTok é perigosa, entre outras como o aplicativo está ganhando cada vez mais popularidade no mundo, atualmente o número de seus usuários é estimado em mais de 1,5 bilhão
