Ouvimos cada vez mais que uma das maiores ameaças digitais de 2021 será o deepfake. Por um lado, pelas possibilidades cada vez maiores dessa tecnologia, que pode ser utilizada para manipulação e desinformação. Por outro lado, pode ser usado para roubo de identidade.
O experimento britânico do Channel 4 ecoou na mídia. No final de 2020, ele emitiu saudações da “Rainha Elizabeth II”, que foram preparadas com base na tecnologia deepfake. Desta forma, a televisão quis chamar a atenção para o problema da falsificação da realidade com o uso desta tecnologia.
A emissora publicou um vídeo com um comentário: “O que vemos e ouvimos é sempre o que parece ser?”
Há um ano, o Facebook anunciou que estava reforçando sua política de manipulação de conteúdo deepfake. Esses materiais devem ser rapidamente detectados e, em alguns casos, removidos da plataforma e, em outros casos, marcados e ocultos no site.
Está ficando cada vez mais fácil se apaixonar pelo material deepfake. A americana Forbes escreveu recentemente que esse conteúdo entrará na circulação principal nos Estados Unidos este ano. Ele alertou que eles retratariam na maioria das vezes uma figura pública fazendo comentários controversos. Você já se perguntou por que esses materiais são feitos? O que eles dão para aqueles que os criam?
Prof. Jacek Dąbała: Em primeiro lugar, trata-se do sentido causativo do poder, mas também, em parte, do tratamento dos próprios complexos. Queremos dizer pouco, mas sentimos fortes emoções e queremos ser admirados. Reagimos com frustração às mensagens da mídia quando vemos políticos famosos, estrelas da mídia ou estrelas do esporte. Assim, podemos zombar deles e “governá-los”. A segunda razão para os deepfakes é o entretenimento, a possibilidade de divertir a si mesmo e aos outros com vídeos falsos principalmente de pessoas famosas. A tecnologia de falsificação da imagem e do som também oferece possibilidades maravilhosas. No “lado bom da força” há intenções e sonhos de vivenciar experiências de contos de fadas, de produzir filmes profissionais em casa usando cada rosto, figura e voz. Também nossos parentes. Por exemplo: inteligência artificial que ativa a partir da foto do nosso avô nos papéis que só inventamos. Deepfake como tecnologia é o poder de um demiurgo, provavelmente também uma chance de ganhar. O perigo não é a tecnologia, mas seu uso.
No final do ano, o canal britânico Channel 4 transmitiu os desejos da rainha Elizabeth II, gravados com tecnologia deepfake. Dessa forma, a emissora queria chamar a atenção dos telespectadores para os perigos desse tipo de desinformação. Você acha que este é o procedimento de comunicação correto? Ou talvez apenas uma promoção?
Boletim WirtualneMedia.pl em sua caixa de entrada de e-mail
A educação está sempre certa, mas neste caso foi provavelmente muito divertido. Portanto, pode ser uma promoção “involuntariamente”. Por um lado, temos um belo filme com a rainha, até bem humorado, por outro, devido a essa gentileza, algumas pessoas podem pensar que tal “diversão” com a imagem conhecida não é nada terrível. Não é incomum que os próprios profissionais, como diretores e jornalistas de várias emissoras, ou mesmo diretores ou atores, não enferrujem com seu pensamento sobre a mídia, não entendam como ela funciona. Eles estão simplesmente preocupados com seu trabalho na mídia, não com seu diagnóstico mais profundo. É por isso que apenas os melhores em pensamento, competentes e sensíveis, são capazes de perceber a fronteira entre sua eficácia e uma ameaça invisível na educação.
Exatamente. Hoje, a mídia polonesa pode ser abordada por um tweet falso. Como eles podem se defender contra a tecnologia deepfake?
Educar, informar, explicar constantemente e sem limites de idade o que é propaganda negra. Dentro de sua estrutura, mostre o fenômeno dos deepfakes. Esta é a forma mais natural. A defesa também deve vir do lado da inteligência artificial nos serviços dos portais. Embora sempre um pouco atrasados, eles devem identificar as falsificações com a ajuda de programas antifraude e eliminá-las ou marcá-las. Além disso, o direito internacional e nacional deve desenvolver ferramentas de defesa. Aqui você não pode agir com parágrafos rígidos, porque se trata de um mundo de mídia dinâmico e com muitas nuances. As ações devem ser complementares, mas a defesa – é preciso dizer claramente – em um mundo democrático será sempre muito complicada. Especialmente quando, o que soa terrível, quando, por exemplo, terroristas ou serviços especiais começam a usar seriamente essa tecnologia.
Já se fala nos EUA que os gigantes da tecnologia devem ser responsabilizados se não impedirem que o material deepfake se espalhe em suas plataformas. Existem outras opções?
Bem, se alguém tem rédeas nas mãos, esteja ciente de que um cavalo feroz pode causar um acidente. Por isso, precisamos de um cocheiro responsável. Ninguém deve duvidar que as maiores corporações que compartilham conteúdo devem controlar a mensagem quando ela começa a discriminar de forma extrema, desinformar ou desacreditar alguém. Não é censura, mas proteção das pessoas contra dramas coletivos, uma ameaça às suas vidas. Um deepfake ruim se alimenta de ódio e medo. Isso poderia ser legalmente enquadrado para que a interferência ocorra apenas em casos muito justificados. Digo isso como defensor da liberdade em todos os níveis possíveis da vida pessoal, social e política. Caso contrário, haverá um desastre, conflitos, porque os usuários da Internet vão adorar o deepfaking, e nem todos são pessoas nobres.
O Facebook e a Microsoft estão trabalhando em soluções que ajudarão na detecção de materiais deepfake. Que ações as instituições polonesas podem tomar para ensinar ao internauta o hábito de verificar as informações? Quem deve ser responsável por isso?
O fenômeno dos deepfakes deve ser apresentado na mídia e sua potencial ameaça explicada. Ad nauseam. Esta é a melhor forma de educação. Se alguém souber que será punido e será punido por promover deepfakes com um perigoso “lado negro”, ele afugentará muitos outros. É claro que, em última análise, os tribunais têm que decidir. O fenômeno é muito sensível a manipulações, a – para dizer o mínimo metaforicamente – jogos de poder político, descrédito e influência empresarial, ou mesmo carreiras e fracassos jornalísticos, para descartar ações judiciais. Escolas e estudos, incluindo qualquer forma de educação, devem introduzir atividades contínuas de mídia e comunicação no currículo o mais cedo possível. Quanto mais algo muda neles todos os dias. Devemos lembrar que cada um de nós está em risco de deepfake, podemos manipulá-lo e nos tornar seu herói negativo.
Jacek Dąbała – professor titular, especialista em mídia, escritor, roteirista e ex-jornalista de rádio e televisão. Ele estuda mídia, comunicação, cinema e literatura. Ele dirige o Departamento de Oficina de Mídia e Axiologia da Universidade Católica de Lublin. Criador do Dabalamedia.com, a primeira plataforma independente do mundo em inglês e polonês, avaliando a qualidade da mídia em termos de conteúdo e workshop jornalístico no interesse dos destinatários e da mídia. Ele é o co-roteirista do filme cult “Young Wolves”. Membro, inclusive Academia Polonesa de Ciências e Academia Polonesa de Cinema.
