09/05/2026 –, Edward Snowden (Auditório da Hemeroteca) Idioma: Português brasileiro
A popularização da IA generativa inaugurou uma nova etapa na produção automatizada de conteúdo digital. Modelos capazes de gerar imagens, vídeos, voz e texto com alto grau de realismo estão transformando a comunicação online, mas também ampliando o potencial de manipulação informacional em escala. Entre essas tecnologias, os deepfakes, conteúdos sintéticos produzidos por redes neurais profundas, se destacam por simular pessoas reais em situações que nunca aconteceram, tornando cada vez mais difícil distinguir o verdadeiro do fabricado.
Em um contexto eleitoral, como o que o Brasil viverá em 2026, esse fenômeno ganha uma dimensão particularmente crítica. Deepfakes podem ser utilizados para manipular percepções públicas, desacreditar candidatos, disseminar desinformação e gerar confusão informacional suficiente para enfraquecer a confiança nas instituições democráticas. A velocidade de disseminação nas redes sociais e a opacidade dos sistemas algorítmicos que amplificam conteúdos tornam o problema ainda mais complexo.
Esta palestra discute os deepfakes não apenas como um problema tecnológico, mas como um fenômeno sociotécnico e político. A partir dos conceitos de “servidão maquínica” (Maurizio Lazzarato) e “caixa-preta algorítmica” (Frank Pasquale), serão analisados os impactos da GenAI na democracia, os desafios para detecção de conteúdos sintéticos e possíveis caminhos de mitigação, incluindo regulação e alfabetização midiática.
A popularização da IA Generativa, ou GenAI, como é mais conhecida, inaugurou uma nova etapa na produção automatizada de conteúdo digital. Modelos capazes de gerar imagens, vídeos, voz e texto com alto grau de realismo estão transformando profundamente a comunicação online, mas também ampliando o potencial de manipulação informacional em escala. Entre essas tecnologias, os deepfakes, conteúdos sintéticos produzidos por redes neurais profundas, se destacam por sua capacidade de simular pessoas reais em situações que nunca aconteceram, tornando cada vez mais difícil distinguir o verdadeiro do fabricado.
Em um contexto eleitoral, como o que o Brasil viverá em 2026, esse fenômeno ganha uma dimensão particularmente crítica. Deepfakes podem ser utilizados para manipular percepções públicas, desacreditar candidatos, manchar reputação, incitar ódio, silenciar vozes e disseminar campanhas de desinformação ou simplesmente gerar confusão informacional suficiente para enfraquecer a confiança nas instituições democráticas. Ao mesmo tempo, a velocidade de disseminação nas redes sociais e a opacidade dos sistemas algorítmicos que amplificam conteúdos tornam o problema ainda mais complexo.
Esta palestra propõe discutir os deepfakes não apenas como um problema tecnológico, mas como um fenômeno sociotécnico e político. Partindo do conceito de “servidão maquínica”, discutido por Maurizio Lazzarato, e da ideia de “caixa-preta algorítmica”, analisada por Frank Pasquale, a apresentação examina como sistemas automatizados e algoritmos opacos moldam percepções, emoções e decisões políticas. Nesse contexto, conteúdos sintéticos produzidos por IA não operam apenas no nível informacional, mas também no nível afetivo e perceptivo, influenciando subjetividades de maneira muitas vezes imperceptível.
Além de apresentar exemplos recentes de deepfakes e campanhas de manipulação digital, a atividade também discutirá: como funcionam tecnicamente os deepfakes (GANs, modelos de difusão e clonagem de voz); os impactos dessa tecnologia na democracia, no jornalismo e na confiança pública; os limites atuais das tecnologias de detecção; possíveis caminhos de mitigação envolvendo legislação, alfabetização midiática e transparência algorítmica.
Em um cenário em que “ver” deixou de ser evidência de verdade, compreender os mecanismos técnicos e políticos por trás da IA generativa torna-se essencial para defender a integridade do debate público e das instituições democráticas.
Sou do “Sul”, do Ceará. Apaixonada por Ciência, Tecnologia, Educação e Arte. Doutoranda na FGV, Mestre em Ciências Humanas e Sociais pela UFABC e Especialista em Inteligência Artificial pela PUC-Minas, Analista de Sistemas Sênior e Líder do Time de Business Analytics, na CAS Tecnologia, e Cientista de Dados na Loxias. Fui professora das disciplinas de Fundamentos de IA, Ciência de Dados e Aprendizado de Máquina, do curso de Ciência da Computação, da Unicid.