Na última semana de fevereiro, o Tribunal Superior Eleitoral (TSE), aprovou as normas que estarão vigentes nas eleições de 2024. Entre os tópicos votados, está a limitação do uso de inteligência artificial (IA) nas campanhas.
Além da limitação do uso de chatbots e da exigência de rotulação dos materiais que possuem tal tecnologia, está a proibição total dos chamados deepfakes. Caso seja comprovado esse tipo de uso, o candidato responsável pode ter a candidatura ou o mandato (se eleito) cassado.
Tais determinações feitas pelo TSE aconteceram após um anseio da comunidade jurídica em saber como os magistrados lidariam com a questão. A resposta foi uma posição restritiva, sem abrir margem para interpretação de IA do bem ou do mal.
O que são deepfakes
Deepfake é uma técnica avançada, que usa inteligência artificial para criar fotos, vídeos e áudios falsos, porém bastante realísticos. Os materiais criados com ela são consideradas mídias sintéticas.
Para os especialistas ouvidos pelo iG, vale acrescentar que um deepfake pode ter um rastro na realidade, a partir do momento em que ele simula uma pessoa.
De acordo com o especialista no tema, Bruno Sartori, esse tipo de geração de mídias teve seu primeiro código aberto divulgado em dezembro de 2017. Diogo Cortiz, pesquisador em inteligência artificial e professor da PUC-SP, acrescenta que em 2014 foi possível encontrar os primeiros modelos de redes neurais, um tipo de inteligência artificial que permitia a criação de modelos sintéticos.
Para que serve um deepfake
Sartori explica que desde a primeira semana que teve seu código divulgado na internet, desenvolvedores do mundo inteiro puderam criar suas versões aperfeiçoadas de deepfake e esse é um dos motivos pelo qual a tecnologia está cada dia mais “real”.
“A criação de deepfakes hoje não se limita a troca de rostos, de onde vieram os primeiros conteúdos. É possível afinar a voz de um cantor em estúdio, criar um cartaz promocional para uma campanha com a foto de uma super modelo que nem existe na vida real, e até compor uma música inteira”, explica o proprietário da Sintetica.ai, empresa especialidade na criação de midia sintética para o mercado publicitário e entretenimento.
O deepfaker acrescenta que ainda não é possível precisar exatamente a gama de profissionais que se beneficiam hoje com a ferramenta e que esse mercado está só começando a descobrir as possibilidades de uso.
Impactos nas eleições
Levando em consideração o aperfeiçoamento desse tipo de tecnologia e o uso cada vez mais disseminado, ao regular a aplicação de inteligências artificiais nas eleições municipais desse ano, o TSE fez um esforço de frear possíveis intercorrências no pleito.
Ainda assim, para especialistas que estudam os impactos dessas mídias na comunicação, um desafio que está além da capacidade do Tribunal Eleitoral é, por exemplo, a existência softwares com uma acuracidade muito alta, que dificultam identificar qual origem do deepfake.
Para Franscisco Costa, mestrando em Tecnologia da Informação e Design Digital pela PUC-SP, a regulação feita pela Justiça Eleitoral força as big techs a olharem para suas responsabilidades sociais, para a criação de um sistema de checagem e verificação de IA mais preciso.
Mas o acadêmico pondera que a campanha eleitoral acontece na esfera pública e não somente nas páginas oficiais dos partidos e durante o horário eleitoral, por isso tem um agente incontrolável: a pessoa física.
Costa argumenta que a regulação do TSE não consegue resolver a produção de deepfake independente.
“Não é possível identificar qual origem da deepfake em grupos de WhatsApp e Telegram. Não há uma rastreabilidade de quem é o emissor da mensagem, que pode ser um eleitor fanático produzindo conteúdo independente.”
Por conta disso, ele aponta para o risco da criação de grupos independentes de produtores de conteúdo de deepfake, em que os partidos podem usar o material mesmo sem estar diretamente associados a sua criação. “Seria como comparar a uma lavagem de dinheiro, mas de conteúdo”, exemplifica o especialista.
