Deepfakes são vídeos (de deep learning – deep learning e fake – fakes) que foram criados usando processamento de som e imagem e são usados para criar gravações de vídeo irreais. Isso significa que podemos apresentar qualquer pessoa como diferente, mudar as palavras que ela pronuncia ou o lugar em que está. Os filmes são tão realistas que muitas vezes é praticamente impossível distingui-los de situações e personagens da vida real. O algoritmo de aprendizado de máquina pode usar, por exemplo, a imagem de pessoas famosas ou palavras que elas disseram em um contexto diferente.
Nos últimos dias, uma gravação de um homem parecido com Tom Cruise apareceu na plataforma Tik Tok. Os vídeos já foram marcados como fitas privadas (portanto, não podem ser assistidos), mas já foram vistos 11 milhões de vezes e uma cópia da filmagem está disponível no YouTube.
Em breve os especialistas não poderão dizer a verdade do deepfake
Perguntamos aos especialistas o que eles achavam da tecnologia deepfake, se o papel dos donos das plataformas sociais ou da mídia seria educar sobre esse fenômeno como perigoso para os usuários. Jakub Biel, especialista em marketing da Tik Toka e chefe de marketing da Green Cell, acredita que a tecnologia deepfake está se desenvolvendo em um ritmo tão louco que “em breve nem os especialistas serão capazes de distinguir imagens reais de deep fake”. – Viajamos da mesma forma com a fotografia, não faz muito tempo. Agora, qualquer aluno pode fazer uma montagem de fotos que parece um belo original, diz ele.
Ao mesmo tempo, quando perguntado se é papel das plataformas marcar o vídeo como conteúdo falso, ele responde: – Se o Pornhub pode lidar com isso, não vejo motivos para que outras plataformas não o façam. Suspeito que os materiais que precisam de verificação serão marcados e aqueles que são totalmente falsos serão removidos imediatamente. Se assumirmos que o deep fake não surge do nada, mas de gravações e fotos existentes, há uma chance de que os algoritmos peguem muitos deles – diz Jakub Biel em um comentário para Wirtualnemedia.pl.
Na sua opinião, sem estar ciente do problema, será difícil alertar especialmente os mais velhos sobre a ameaça. – Lembre-se que as pessoas caem em concursos fingindo ser Biedronka ou Media Markt, portanto, sem consciência, nada terá sucesso. Receio que seja muito difícil para os mais velhos – resume.
Boletim WirtualneMedia.pl em sua caixa de entrada de e-mail
O roubo de identidade sintética está em ascensão
Por outro lado, Sylwia Czubkowska, editora responsável pelo Spider’sWeb+ acredita que as tecnologias que permitem criar deepfakes avançados serão um problema cada vez mais grave “que conhecemos há muito tempo”. – Ainda assim, parecia-nos que ainda tínhamos tempo para lidar com esse fenômeno e nos preparar para ele. Infelizmente, isso é um pensamento errado. A escala muito crescente dos chamados o roubo sintético de identidade, ou seja, o uso de fragmentos de nossa identidade na forma de, por exemplo, fotos de redes sociais para atividades maliciosas, e muitas vezes até criminosas, deve nos tornar sensíveis à questão do uso perigoso de nossa imagem – enfatiza.
– Aqui temos um caso bastante fácil de verificar, pois diz respeito a uma pessoa pública, conhecida e relativamente inocente – aponta, por exemplo, no vídeo com Tom Cruise. – E se tais deepfakes começarem a surgir com base nas imagens dos políticos? Vimos uma amostra do efeito que isso poderia ter na grande série da BBC Year for Year. Ali – na forma de histórias de ficção política – graças às tecnologias, os políticos locais “exprimiram suas opiniões” de forma manipulada. E era para ser retificado e explicado às pessoas que não eram declarações reais, e a recepção do público ainda estava no tom: “talvez não seja uma declaração real, mas esse político pensa assim mesmo” – dá o exemplo de Sylwia Czubkowska.
O editor-chefe do Spider’sWeb+ ressalta que não acredita que a mera operação da mídia e dos fact checkers seja suficiente para desarmar esse tipo de tecnologia. – Fala-se cada vez mais sobre o aproveitamento da tecnologia blockchain para identificar desinformação e deepfake, portanto, tais atividades – também desenvolvidas pelas mídias sociais – devem ser implementadas, e conteúdo baseado em imagens de pessoas reais – sinalizadas como criadas artificialmente – comentários para Wirtualnemedia. pl.
Educação chave
Wojtek Kardyś, especialista em mídia social e co-proprietário da agência Good for You, afirma que o deep fake é um problema sério e isso “não é mais uma hipótese de livros ou filmes de ficção científica”. – No YouTube você pode encontrar centenas de exemplos de uso desse golpe, e os vídeos mais recentes com um falso (idealmente gerado) Tom Cruise apenas aquecem a atmosfera, porque o deep fake não é um conhecimento especializado que exige grandes gastos orçamentários – existem muitos (às vezes gratuitas, como o FaceApp) que nos permitirão usufruir deste “serviço”. Acredito que criar deepfakes indistinguíveis da realidade é apenas uma questão de tempo. Isso é ainda mais assustador, porque afinal, estamos acostumados a gravações como “valor probatório” (imagem e som). Acreditamos no vídeo – ele julga.
Em sua opinião, para Wirtualnemedia.pl, ele enfatiza que se o vídeo é uma ameaça real à democracia, o governo deve reagir imediatamente. – Deverá haver uma comissão/unidade especial para lidar com segurança cibernética e notícias falsas, que terá um orçamento para campanhas de conscientização sobre como verificar notícias. Deve haver atividades especiais
nas escolas, e chegaríamos aos idosos com campanhas sociais na mídia. Desperte a curiosidade e a consciência. Precisamos conscientizar as pessoas de que quanto menos “deixarmos online”, mais seguros estaremos. Lembre-se que o deepfake nada mais é do que aprendizado de máquina, ou seja, os vídeos são criados a partir de um enorme banco de dados de fotos e gravações que são sobrepostas – o algoritmo as encontra na web – e depois impõe expressões faciais e de voz. Além disso, quanto menos material de origem, pior o deepfake. Agora a questão é – um governo que não pode treinar seus próprios políticos para hackear contas do Twitter tem competência para ensinar um país de 38 milhões? – questiona retoricamente Wojtek Kardyś.
Ele também enfatiza que os jornalistas que precisam se encontrar na nova realidade não devem ser esquecidos. – Em uma época em que os cliques e a velocidade são da maior importância, a transmissão de um vídeo fabricado é absolutamente certa. Como corrigi-lo? Mais uma vez, educação, treinamento e workshops. E as marcas e profissionais de marketing? Espero que eles não usem deep fakes para fins de marketing, o que apenas minimizaria o problema. Se as marcas quiserem ajudar, deixe-as usar seu alcance para conscientizar as pessoas sobre a ameaça. Tal RSC seria muito bem-vinda tanto do ponto de vista de marketing quanto social – conclui o especialista em mídia social.
No final do ano passado, o canal britânico 4 transmitiu saudações da “rainha Elizabeth II”, que foram preparadas com base na tecnologia deepfake. Dessa forma, eles queriam chamar a atenção para o problema da falsificação da realidade com o uso dessa ferramenta.
