Fake News e Deepfakes: A Ameaça da IA nas Eleições

*por Marcelo Senise

Nos últimos anos, a ascensão das tecnologias de inteligência artificial (IA) trouxe inovações que transformaram diversos setores da sociedade. No entanto, essas tecnologias também têm sido utilizadas de maneira maliciosa, especialmente no contexto eleitoral. As fake news e deepfakes emergiram como ameaças significativas à integridade dos processos democráticos, influenciando a opinião pública e potencialmente alterando os resultados das eleições. Este artigo explora a gravidade desse problema e as medidas adotadas pela Justiça Eleitoral para mitigá-lo, destacando a atuação do Instituto Brasileiro para a Regulamentação da Inteligência Artificial (IRIA) na elaboração e aprovação das normativas do Tribunal Superior Eleitoral (TSE) para o atual pleito. As fake news, ou notícias falsas, são informações fabricadas ou distorcidas disseminadas com a intenção de enganar. No contexto eleitoral, essas notícias podem ser usadas para difamar candidatos, manipular eleitores e criar desinformação em larga escala. A facilidade de compartilhamento nas redes sociais amplifica o alcance dessas notícias, tornando-as uma ferramenta poderosa e perigosa. As deepfakes representam uma evolução ainda mais sofisticada das fake news. Utilizando técnicas avançadas de IA, como redes neurais e aprendizado profundo, é possível criar vídeos e áudios falsos que parecem incrivelmente reais. Essas manipulações podem fazer com que uma pessoa pareça dizer ou fazer algo que nunca disse ou fez, causando danos irreparáveis à sua reputação e influenciando negativamente a percepção pública.
O impacto das fake news e deepfakes nas eleições é profundo. Elas podem desinformar eleitores, pois muitos não verificam a veracidade das informações que consomem, o que pode levar a decisões de voto baseadas em mentiras. Além disso, a disseminação de informações falsas pode aumentar a polarização política, criando divisões profundas na sociedade. A confiança no processo eleitoral é fundamental para a democracia, e fake news e deepfakes minam essa confiança, colocando em risco a legitimidade das eleições.
Para combater o uso indevido de tecnologias de IA nas eleições, o TSE aprovou uma série de regras rigorosas. Entre as principais medidas estão a proibição de deepfakes em propaganda eleitoral, a responsabilidade de provedores e redes sociais em retirar do ar posts falsos ou gravemente descontextualizados de forma imediata, a transparência e sinalização de qualquer conteúdo produzido com ferramentas de IA, e a elaboração de relatórios de impacto por provedores e plataformas para mitigar os riscos identificados.
O Instituto Brasileiro para a Regulamentação da Inteligência Artificial (IRIA) desempenhou um papel crucial na elaboração e aprovação dessas normativas. O IRIA colaborou com o TSE para desenvolver diretrizes que assegurem o uso ético e responsável da IA nas eleições. Entre as contribuições do IRIA estão o fornecimento de expertise técnica para a criação de regulamentos que abordem as especificidades das tecnologias de IA, campanhas de conscientização para educar eleitores, candidatos e partidos sobre os riscos e responsabilidades associados ao uso de IA, e o desenvolvimento de ferramentas e metodologias para monitorar e identificar o uso indevido de IA nas campanhas eleitorais.
A proibição de deepfakes em propaganda eleitoral é uma medida crucial. A Corte Eleitoral define a prática como qualquer conteúdo sintético em formato de áudio ou vídeo, gerado ou manipulado digitalmente, ainda que mediante autorização, para criar, substituir ou alterar a imagem ou a voz de pessoa viva, falecida ou fictícia. Esse tipo de arquivo não pode ser veiculado nem para prejudicar nem para favorecer determinada candidatura. As propagandas eleitorais também não podem veicular conteúdo fabricado ou manipulado com objetivo de disseminar fatos inverídicos ou gravemente descontextualizados, com potencial para causar danos ao equilíbrio das eleições ou à integridade do processo.
Os candidatos que utilizarem esse artifício nas campanhas vão responder por abuso do poder político e uso indevido dos meios de comunicação social, o que pode resultar na cassação do registro da candidatura ou do mandato. A conduta ainda configura crime eleitoral, como previsto no art. 323 do Código Eleitoral (Lei n° 4737/65), com pena de prisão que pode variar de 2 meses a 1 ano e pagamento de multa.
Além disso, a responsabilidade de provedores e redes sociais foi ampliada. Para dar mais efetividade ao combate às fake news, o TSE também ampliou as responsabilidades de provedores de internet e plataformas de redes sociais nos casos de disseminação de informações falsas ou enganosas relacionadas às eleições. A partir de agora, as plataformas de redes sociais e provedores estão obrigadas a retirar do ar posts falsos ou com informações gravemente descontextualizadas de forma imediata e diretamente, sem necessidade de decisão judicial prévia.
Durante o período eleitoral, contas e posts que incitem atos antidemocráticos, divulguem fake news para atingir ou tirar a credibilidade do processo eleitoral, deepfakes, conteúdos racistas, fascistas ou que apresentem comportamento ou discurso de ódio, além de desinformação, devem ser derrubados imediatamente. Caso contrário, as empresas podem ser responsabilizadas civil e administrativamente, junto com os usuários responsáveis pela conta ou postagem.
Provedores e redes sociais que veicularem conteúdo político eleitoral deverão adotar medidas ativas para impedir ou diminuir a circulação de fake news, deepfakes e informações falsas na internet. Isso deverá ser feito por meio da elaboração de termos de uso compatíveis com esse objetivo; implementação de instrumentos eficazes e acessíveis de notificação de conteúdo enganoso e de canais de denúncia; planejamento e execução de medidas corretivas e preventivas, incluindo o aprimoramento de sistemas de recomendação de conteúdo; transparência às ações adotadas e aos resultados obtidos; e aprimoramento de ferramentas tecnológicas.
As redes sociais estão proibidas de vender impulsionamento (ou seja, ampliar o alcance de posts mediante pagamento) para conteúdos falsos. Também não podem remunerar (monetizar) canais e contas pela veiculação de fake news, deepfakes e outros materiais enganosos. Assim que tomarem conhecimento da circulação de material notoriamente falso ou gravemente descontextualizado, devem adotar medidas imediatas para a retirada dos arquivos do ar e interrupção de qualquer tipo de impulsionamento ou monetização. As plataformas devem ainda promover a apuração interna, para saber quais contas e perfis estão envolvidos na divulgação do material falso, de modo a impedir nova circulação das informações inverídicas e inibir comportamentos ilícitos.
Partidos, federações, candidatos e candidatas têm responsabilidade no combate à desinformação. De acordo com o art. 9° da Resolução, o uso de qualquer conteúdo na propaganda eleitoral, inclusive informações veiculadas por terceiros, pressupõe que candidatos ou legendas tenham verificado a presença de elementos que permitam concluir, com razoável segurança, pela fidedignidade da informação. Em caso de veiculação de conteúdo falso, os ofendidos podem pedir direito de resposta, conforme art. 58 da Lei nº 9.504/97.
As postagens falsas que atinjam o processo eleitoral e que tenham sido removidas por ordem do TSE irão integrar um banco de dados, que poderá ser acessado por juízes de todo o país e pelo Ministério Público. O objetivo é facilitar a fiscalização e impedir que materiais já considerados ilegais sejam duplicados ou voltem a circular nas redes. Juízes e juízas eleitorais ficam obrigados a consultar o repositório e, em caso de fake news contra o processo eleitoral, devem seguir as decisões colegiadas do TSE sobre um mesmo conteúdo. O repositório também conterá as decisões que tenham negado a remoção de postagens, para servir de orientação às autoridades de fiscalização.
A atuação do IRIA foi fundamental para a criação dessas normativas. O Instituto forneceu consultoria técnica, ajudando a moldar regulamentos que abordam as especificidades das tecnologias de IA. Além disso, o IRIA promoveu campanhas de conscientização para educar eleitores, candidatos e partidos sobre os riscos e responsabilidades associados ao uso de IA. O desenvolvimento de ferramentas e metodologias para monitorar e identificar o uso indevido de IA nas campanhas eleitorais também foi uma contribuição significativa do IRIA.
As fake news e deepfakes representam desafios significativos para a integridade das eleições em tempos de inteligência artificial. No entanto, com a adoção de medidas rigorosas pela Justiça Eleitoral e a atuação proativa de instituições como o IRIA, é possível mitigar esses riscos e assegurar um processo eleitoral justo e transparente. A colaboração entre órgãos reguladores, plataformas de tecnologia e a sociedade civil é essencial para proteger a democracia e garantir que os eleitores possam tomar decisões informadas e conscientes.
Marcelo Senise – Idealizador do IRIA - Instituto Brasileiro para a Regulamentação da Inteligência Artificial, Sócio Fundador da Comunica 360º e CEO da CONECT.AI, Sociólogo e Marqueteiro, atua a 35 anos na área política e eleitoral, especialista em comportamento humano, e em informação e contrainformação, precursor do sistema de análise em sistemas emergentes e Inteligência Artificial.
Twitter: @SeniseBSB / Instagram: @marcelosenise