Ouvimos cada vez mais que uma das maiores ameaças digitais de 2021 será deepfake. Por um lado, devido às possibilidades crescentes desta tecnologia, que pode ser utilizada para manipulação e desinformação. Por outro lado, pode ser usado para roubo de identidade.
O experimento do canal britânico teve eco na mídia 4. No final de 2020, ele emitiu saudações da “Rainha Elizabeth II”, que foram preparadas com base na tecnologia deepfake. Dessa forma, a televisão queria chamar a atenção para o problema da falsificação da realidade com o uso dessa tecnologia.
A estação publicou um vídeo com um comentário: “O que vemos e ouvimos é sempre o que parece?”
Já há um ano Facebook disse que está endurecendo sua política sobre conteúdo deepfake manipulado. Esses materiais devem ser rapidamente detectados e, em alguns casos, removidos da plataforma e, em outros casos, marcados e ocultados no site.
Está ficando cada vez mais fácil cair no material deepfake. A Forbes americana escreveu recentemente que esse conteúdo irá até mesmo entrar na circulação convencional nos Estados Unidos este ano. Ele avisou que na maioria das vezes eles retratariam uma figura pública fazendo comentários polêmicos. Você já se perguntou por que esses materiais são feitos? O que eles dão para aqueles que os criam?
Prof. Jacek Dąbała: Em primeiro lugar, trata-se do senso causal de poder, mas também, em parte, da cura dos próprios complexos. Queremos dizer pouco, mas sentimos emoções fortes e queremos ser admirados. Reagimos com frustração às mensagens da mídia quando vemos políticos famosos, estrelas da mídia ou estrelas do esporte. Assim, podemos insultá-los e “governá-los”. O segundo motivo dos deepfakes é o entretenimento, a possibilidade de divertir a si e aos outros com falsificações em vídeo, principalmente de pessoas famosas. A tecnologia de falsificação de imagem e som também oferece possibilidades maravilhosas. Do “lado bom da força” estão as intenções e os sonhos de vivenciar experiências de contos de fadas, de produzir filmes profissionais em casa usando todos os rostos, corpos e vozes. Também nossos parentes. Por exemplo: inteligência artificial que se ativa a partir da foto do nosso avô nos papéis que apenas imaginamos. Deepfake como tecnologia é o poder de um demiurgo, provavelmente também uma chance de ganhar. O perigo não é a tecnologia, mas seu uso.
No final do ano, a estação do Canal Britânico 4 transmitiu os desejos da Rainha Elizabeth II, gravados usando tecnologia deepfake. Dessa forma, a emissora queria chamar a atenção dos telespectadores para os perigos desse tipo de desinformação. Você acha que este é o procedimento de comunicação correto? Ou talvez apenas uma promoção?
A educação sempre está certa, mas neste caso provavelmente era muito divertida. Portanto, pode ser uma promoção “involuntariamente”. Por um lado, temos um filme simpático com a rainha, até bem humorado, por outro, devido a essa gentileza, algumas pessoas podem pensar que tal “diversão” com a imagem conhecida não é nada terrível. Não é incomum que os próprios profissionais, como diretores e jornalistas de várias emissoras, ou mesmo diretores ou atores, não enferrujem com seu pensamento sobre a mídia, não entendam como ela funciona. Eles estão simplesmente preocupados com seu trabalho na mídia, não com seu diagnóstico mais profundo. É por isso que só os melhores pensantes, competentes e sensíveis, são capazes de sentir a fronteira entre sua eficácia e uma ameaça invisível na educação.
Exatamente. Hoje, a mídia polonesa pode ser abordada por um tweet falso. Como eles podem se defender contra a tecnologia deepfake?
Educar, informar, explicar constantemente e sem limites de idade o que é propaganda negra. Em sua estrutura, mostre o fenômeno dos deepfakes. Esta é a forma mais natural. A defesa também deve vir do lado da inteligência artificial nos serviços dos portais. Mesmo que sempre cheguem um pouco atrasados, devem, com a ajuda de programas antifraude, identificar as falsificações e eliminá-las ou marcá-las. Além disso, o direito internacional e nacional deve desenvolver ferramentas de defesa. Aqui você não pode atuar com parágrafos rígidos, porque se trata de um mundo de mídia dinâmico e com muitas nuances. As ações devem ser complementares, mas a defesa – é preciso dizer com clareza – em um mundo democrático sempre será muito complicada. Especialmente quando, o que parece terrível, quando, por exemplo, terroristas ou serviços especiais começam a usar seriamente essa tecnologia.
Já se fala nos Estados Unidos que os gigantes da tecnologia devem ser responsabilizados se não impedirem que material falsificado se espalhe em suas plataformas. Existem outras opções?
Bem, se alguém tem as rédeas nas mãos, esteja ciente de que um cavalo feroz pode causar um acidente. Portanto, precisamos de um cocheiro responsável. Ninguém deve duvidar que as maiores corporações que compartilham conteúdo devem controlar a mensagem quando esta passa a discriminar de forma extrema, desinformar ou desacreditar alguém. Não é censura, mas proteção das pessoas contra dramas coletivos, uma ameaça às suas vidas. Uma falsificação profunda se alimenta de ódio e medo. Isso poderia ser legalmente enquadrado de forma que a interferência só ocorra em casos muito justificados. Digo isso como um defensor da liberdade em todos os níveis possíveis da vida pessoal, social e política. Caso contrário, haverá um desastre, conflitos, porque os usuários da Internet vão adorar deepfaking, e nem todos são pessoas nobres.
Facebook A Microsoft está trabalhando em soluções que ajudarão na detecção de materiais deepfake. Que ações podem as instituições polonesas realizar para ensinar ao internauta o hábito de verificar informações? Quem deve ser responsável por isso?
O fenômeno dos deepfakes deve ser apresentado na mídia e sua potencial ameaça explicada. Ad nauseam. Esta é a melhor forma de educação. Se alguém sabe que será punido e será punido por promover deepfakes com um perigoso “lado negro”, ele assustará muitos outros. Claro, os tribunais em última instância têm que decidir. O fenômeno é muito sensível a manipulações, para – para dizer o mínimo metaforicamente – jogos de poder político, descrédito e influência empresarial, ou mesmo carreiras jornalísticas e fracassos, para descartar processos judiciais. Escolas e estudos, incluindo qualquer forma de educação, devem introduzir atividades de mídia e comunicação no currículo o mais cedo possível. Quanto mais algo muda neles a cada dia. Devemos lembrar que cada um de nós corre o risco de falsidade profunda, podemos tanto manipulá-lo quanto nos tornarmos seu herói negativo.
Jacek Dąbała – professor titular, especialista em mídia, escritor, roteirista e ex-jornalista de rádio e televisão. Ele estuda mídia, comunicação, cinema e literatura. Ele chefia o Departamento de Workshop de Mídia e Axiologia da Universidade Católica de Lublin. Criador do Dabalamedia.com, a primeira plataforma independente do mundo em inglês e polonês, avaliando a qualidade da mídia em termos de conteúdo e oficina jornalística no interesse dos destinatários e da mídia. Ele é o co-autor do filme cult “Young Wolves”. Membro, incl. Academia Polonesa de Ciências e Academia Polonesa de Cinema.
