A evolução da inteligência artificial e os riscos em anos eleitorais

A Inteligência Artificial (IA) tem avançado de forma extraordinária desde o lançamento do ChatGPT, no fim de 2022. Como consequência, temos visto a grande transformação que o potencial da IA tem feito em diversos setores da sociedade e proporcionando inovações que antes eram inimagináveis. Uma das áreas que mais tem se beneficiado desse progresso é a produção de conteúdo e mídia, onde a IA agora possui a capacidade de gerar textos, imagens e vídeos extremamente realistas. Essa tecnologia, conhecida como deepfake, permite a edição ou criação de vídeos onde é possível manipular a aparência e a voz de uma pessoa, tornando difícil distinguir entre o real e o artificial.

Veja o vídeo abaixo. É a minha imagem, a minha voz, os meus trejeitos. Mas não sou eu. O vídeo foi gerado por Inteligência Artificial:

É verdade que a evolução tecnológica oferece inúmeras oportunidades para o aprimoramento, qualidade e otimização do trabalho, para o entretenimento, para a educação e até mesmo para a preservação histórica. Mas é importante discutirmos os riscos associados a esse avanço tecnológico e, principalmente, medidas para eliminá-los ou, ao menos, mitigá-los. Isso é especialmente necessário para evitar o mal uso em anos eleitorais, uma vez que a tecnologia pode ser usada para disseminar desinformação, manipular a opinião pública e comprometer a integridade dos processos democráticos.

Em um processo eleitoral, a disseminação de vídeos falsos pode ter consequências devastadoras. Deepfakes podem ser usados para difamar candidatos, atribuindo-lhes declarações ou ações que nunca ocorreram, influenciando indevidamente os eleitores. Além disso, a simples existência dessa tecnologia pode levar a um aumento do ceticismo em relação às informações verídicas, minando a confiança nas fontes de notícias e nas próprias instituições democráticas.

Leia mais: Como liderar sua equipe rumo ao sucesso na era da transformação digital

Para mitigar esses riscos, é crucial que se invista em tecnologias de detecção de deepfakes e em campanhas de conscientização pública sobre a existência e os perigos dessas manipulações. No Brasil, o Tribunal Superior Eleitoral regulamentou o uso da Inteligência Artificial nas campanhas e, dentre outras medidas, proibiu o uso de Deepfake. Mas as plataformas de mídia social também desempenham um papel vital na implementação de políticas rigorosas para identificar e remover conteúdos falsos de forma eficaz e rápida, assunto também abordado na regulamentação do TSE.

Além disso, como sociedade, devemos fortalecer a habilidade digital dos cidadãos, capacitando-os na identificação de sinais de manipulação e na verificação da veracidade das informações antes de compartilhá-las. A colaboração entre governos, empresas de tecnologia e a sociedade civil é essencial para criar um ambiente seguro e transparente, onde a tecnologia seja usada para o bem comum e não como uma ferramenta de manipulação e engano. Já abordei a importância dessa ação em um artigo publicado na MIT Technology Review Brasil.

Claro que não podemos parar a evolução da IA ou mesmo a inovação tecnológica. Contudo, é fundamental abordar os riscos associados a essa tecnologia com seriedade e transparência, especialmente seu impacto nos cidadãos, para garantir que a democracia e a integridade dos processos eleitorais sejam preservadas.