Deepfake é a junção das palavras deep learning (aprendizagem profunda) e fake (falso). Trata-se de uma técnica que usa imagens e sons reais, utilizando inteligência artificial para substituir rostos e vozes em vídeos, com falas e ações descontextualizadas e manipuladas, e com o objetivo de chegar o mais próximo possível da realidade, ou seja, com resultados aparentemente verossímeis. Como diz Alexandre Atheniense, advogado, consultor de TI, professor e perito de Direito Digital “a própria aplicação vai aprendendo e se treinando no processo de análise de dados” e para ele um dos usos ilegais da tecnologia de deepfake é para a produção de conteúdos que prejudiquem a imagem de políticos, sobretudo em contextos eleitorais ( O que é deepfake? Saiba como funciona e porque tecnologia pode afetar a política, publicado no Portal IG em 8/12/2019).

Assim, com base em técnicas de inteligência artificial, capazes de manipular conteúdos de vídeos (e também de áudios) os deepfakes conseguem criar experiências que podem, especialmente para um público leigo, se passar como verdade e seu uso indiscriminado e sem punição em eleições podem influenciar nos seus resultados.
É uma técnica recente. Usada basicamente a partir de 2017. No artigo Contribuindo com dados para detecção do deepfake, publicado no dia 24 de setembro de 2019 por Nick Dufour e Andrew Gully afirma-se que “desde sua primeira aparição no final de 2017, surgiram muitos métodos de geração de deepfake de código aberto, levando a um número crescente de clipes de mídia sintetizados. Enquanto muitos provavelmente pretendem ser engraçados, outros podem ser prejudiciais para os indivíduos e a sociedade”.

Quais os seus possíveis impactos eleitorais? No artigo Deepfake e shallowfake: o que são e como podem impactar as eleições, afirma-se que “Com o uso de softwares de inteligência artificial, principalmente o machine learning, que utiliza dados para aprender com eles, são usados algoritmos para fazer o reconhecimento da imagem que será copiada e, a partir de redes neurais artificiais, os algoritmos classificam imagens, reconhecem falas, detectam objetos e são capazes de aprender o formato de rostos, se atentando às expressões faciais e se adaptando e reagindo às luzes e sombras”. https://blog.inteligov.com.br/deepfake-e-shallowfake/

A partir de 2017, em períodos eleitorais o uso dessa técnica, não é apenas muito difundido como pode resultar em graves violações. Quem faz uso e se beneficia disso mostra o que são capazes de fazer quando ganham eleições. E há muitos exemplos, que devem servir não apenas como referências de manipulações e mentiras, como lições para as eleições presidenciais de 2022.

Vejamos. No processo eleitoral de 2018 foi muito difundida nas redes sociais e entre muitos exemplos pode ser citada a montagem de um vídeo mostrando parte de um depoimento em que o ex-ministro Antonio Palocci afirma que Lula recebeu dinheiro e imóveis para sua “aposentadoria” (https://www.youtube.com/watch?v=TkGZgQkSW8I). A informação consta em um matéria publicada na Veja Comprova (de checagem) por Tulio Kruse no dia 3 de junho de 2022 (“Post usa imitação de Lula para confundir sobre acusações de corrupção”). Na matéria diz “uma montagem falsa em vídeo mostra trechos de uma entrevista com o ex-presidente Luiz Inácio Lula da Silva e um depoimento em que o ex-ministro Antonio Palocci diz que Lula recebeu dinheiro e imóveis para sua “aposentadoria” e, por último, um áudio em que o ex-presidente supostamente estaria irritado com a declaração de Palocci no Jornal Nacional. Os dois vídeos estão fora de contexto e o áudio já foi verificado como falso no passado” (é de 2017). E diz ainda que “o texto que acompanha as mensagens também diz que não adiantou o TSE apagar o vídeo, mas não há registro de que o Tribunal tenha emitido decisões sobre o conteúdo do vídeo” e também que Lula parecia muito irritado com essas declarações insinuava um possível assassinato de Palocci. https://veja.abril.com.br/coluna/veja-comprova/post-usa-imitacao-de-lula-para-confundir-sobre-acusacoes-de-corrupcao/

O que ficou evidente nessas montagens, com áudios falsos, retirando de contexto conteúdos era induzir uma interpretação enganosa sobre Lula, cujos processos eram tão falsos que foram arquivadas pela Justiça ou tiveram a condenação anulada (para uma análise detalhada sobre a farsa da condenação e prisão de Lula, consultar o livro Vaza Jato:os bastidores das reportagens que sacudiram o Brasil de Leticia Duarte e The Intercept Brasil, Editora Mórula, 2020). O depoimento de Palocci, usado contra Lula, foi excluído dos autos no Supremo Tribunal Federal por ser claramente mentiroso.

Crime é inventar conteúdos, editar para mudar o vídeo ou a fala original e divulgar de modo deliberado, espalhando falsidades, tentando influenciar eleitores (a maioria, manipuladas em “bolhas” nas redes sociais, não tem acesso a agências de checagens, como, entre outras, além do Comprova, Fato ou fake? e Aos Fatos).
E as mentiras continuaram como mostrou o Comprova ao analisar um vídeo (grosseiro) que afirma que Lula teria roubado 350 mil toneladas de ouro em Serra Pelada para doar a Venezuela. Havia – e certamente continuam existindo – vídeos e áudios com falsificações, como muitos com imitações da voz de Lula, com a clara intenção de desqualificá-lo.

A estratégia dos ataques e das mentiras não é especifico do Brasil. Em relação ao uso de deepfake, nos Estados Unidos, onde uma sucessão de mentiras da campanha de Donald Trump foram denunciadas há uma montagem que ficou famosa: um vídeo da presidente da Câmara Nancy Pelosi que ao ser desacelerado, dava a entender que ela estava bêbada enquanto discursava. Outro foi com senador Bernie Sanders, que foi candidato a candidato à presidente pelo Partido Democrata. Numa sátira que viralizou, em janeiro de 2020 um vídeo com o seu rosto foi sobreposto sobre outro, um dos candidatos do programa America’s Got Talent, fazendo com ele parecesse que estava cantando a música Bodies, da banda Drowning Pool. O objetivo era ridicularizá-lo. E há ainda um com Barack Obama. Em um vídeo que circulou bastante nas redes sociais no período eleitoral, ele aparecia afirmando que o presidente Donald Trump era “um idiota completo”. Embora muitos achem mesmo, inclusive Barack Obama, não foi isso que ele disse. O vídeo foi uma montagem.
Definir o que é real e o que é falso é difícil hoje no ambiente digital, especialmente quando dirigidos para o grande público, que em geral não procura saber sobre a veracidade ou não das falas, vídeos etc., e desconhecendo a tecnologia, se tornam presas fáceis, não distinguindo o que um deepfake de um conteúdo (áudio e vídeos) verdadeiro.

Um aspecto relevante em relação à deepfake é quanto à punição aos responsáveis pelas montagens e divulgação das mentiras e manipulações. Não há uma legislação específica sobre deepfake no Brasil, mas a lei 9.504/97, proíbe o uso de montagens em campanhas políticas, seja para ridicularizar ou beneficiar um candidato, mas como fiscalizar e punir com um número gigantesco de postagens e no mais das vezes, para grupos fechado e imunes a checagens? Os crimes em que os autores do deepfake estão sujeitos estão também Código Penal, cuja penalidade pode variar de acordo com o que foi cometido como, por exemplo, calúnia, difamação, injúria e mesmo uso distorcido de vídeo com pornografia.

Outra questão relevante é o de saber como o processo democrático pode ser afetado. A manipulação de eleições, que antecede o uso dessa tecnologia, e com ela ganha impulso e pode ser muito eficaz por parecer verdadeira.
O fato é que deepfake são instrumentos de persuasão eficazes. Persuadir não com fatos e argumentos, mas com manipulações, mentiras e descontextualização. Na guerra de informações, com o uso de técnicas sofisticadas, os eleitores são inundados com notícias falsas, usados inclusive por robôs, de forma deliberada. São bots, contas falsas automatizadas nas redes sociais que se fazem passar por pessoas reais, difundindo fake news, difamações e discursos de ódio.

Em relação às eleições, manipulações, mentiras etc., sempre foram largamente utilizadas e não apenas no Brasil, mas o deepfake é uma ferramenta recente e para a qual é preciso estar atento e ter mecanismos eficazes de combater. O problema é: Como e o que fazer para enfrentar essa nova modalidade de manipulação e desinformação? Como evitar seu uso indiscriminado nas redes sociais, considerando que amplia a possibilidade de difusão de mentiras, influenciando a opinião pública, e com impacto significativo no processo eleitoral?
E mais: sendo crime, a Justiça Eleitoral (e demais instâncias jurídicas do país) tem condições de impedir o uso e disseminação, que põe em risco à própria democracia? Sem medidas eficazes contra seus usos, as democracias estão xeque, com as mentiras, montagens e manipulações.
Enfim, o uso de tecnologia para fins eleitorais quando usadas para mentir e manipular os eleitores colocam sob suspeição o que é de fundamental importância nas eleições: a sua lisura.