09/05/2026 –, Ada Lovelace (Sala Silenciosa no 2º piso) Idioma: Português brasileiro
A crescente disseminação de aplicações de deepfake tem aprofundado dinâmicas de violência de gênero no ambiente digital, com impactos que transbordam para o mundo offline. Esta mesa redonda propõe discutir os deepfakes como uma forma emergente de violência facilitada por tecnologias, articulando perspectivas técnicas e regulatórias a partir de uma abordagem baseada em direitos humanos e interseccionalidade.
A partir de pesquisas recentes, como a realizada pela organização peruana Situada, que analisou 105 aplicativos de deepfakes em lojas digitais e evidenciou padrões de opacidade, estereotipação de gênero e ausência de salvaguardas efetivas, e o guia desenvolvido pela Derechos Digitales em parceria com o UNFPA sobre como desenvolver ou reformar marcos legais para enfrentar a violência de gênero facilitada por tecnologia, o debate abordará os limites das respostas atuais.
A mesa reunirá especialistas com expertises diversas para refletir sobre temas como consentimento, responsabilidade das plataformas, desenho de sistemas e caminhos regulatórios possíveis, buscando construir uma agenda que enfrente a violência e as desigualdades de gênero de maneira sem comprometer outros direitos fundamentais.
O avanço e a popularização de ferramentas de deepfake vêm reconfigurando práticas de violência de gênero no ambiente digital, especialmente por meio da criação e disseminação de imagens íntimas não consensuais, que afeta de maneira desproporcional meninas, mulheres e pessoas LGBTQIAPN+. Esse fenômeno se insere em um contexto mais amplo de aumento da violência de gênero online e offline – inclusive afetando crianças e adolescentes -, intensificação de discursos misóginos e crescente guinada ao conservadorismo, sobretudo de meninos e homens mais jovens, na América Latina e no mundo.
Pesquisa recente conduzida pela organização Situada analisou 105 aplicativos de deepfake disponíveis na Google Play Store, revelando padrões preocupantes: quase metade dos apps não informava seus desenvolvedores e, quando informados, tratavam-se de equipes majoritariamente masculinas; a classificação indicativa era frequentemente “livre”, apesar dos riscos evidentes; e as interfaces e materiais promocionais reproduziam estereótipos de gênero, oferecendo categorias pré-definidas voltadas quase exclusivamente à sexualização de mulheres. Além disso, embora algumas empresas incluam avisos apontando ser proibida a geração de imagens não consensuadas, não há mecanismos de design que efetivamente previnam esses abusos.
Diante desse cenário, esta mesa propõe articular duas dimensões frequentemente tratadas de forma isolada: os aspectos técnicos (como funcionamento, design e limitações dessas ferramentas) e os marcos regulatórios e de políticas públicas. A discussão se apoia também no guia recentemente lançado pela Derechos Digitales em parceria com o UNFPA, que oferece recomendações para legislar sobre violência de gênero facilitada por tecnologias.
O painel reunirá convidadas com experiências complementares, incluindo pessoas envolvidas em denúncias recentes relacionadas ao caso Grok, pesquisadoras que trabalham com abordagens como a forense feminista e especialistas em regulação digital com foco em gênero e raça, com o objetivo de construir um diálogo interdisciplinar e interseccional.
A partir de exposições iniciais, a mesa buscará aprofundar alguns “nós” centrais para o debate, como:
· Consentimento: é possível aferir consentimento na geração de deepfakes? Como? Quais seriam os limites dessa abordagem?
· Design e responsabilidade: que medidas poderiam ser incorporadas a nível de design para prevenir usos abusivos?
· Classificação e distribuição: qual o papel das lojas de aplicativos na curadoria e controle dessas tecnologias?
· Regulação ou proibição: é possível regular o uso ou determinados tipos de deepfake deveriam ser proibidos?
· Evidências digitais e responsabilização: como lidar com desafios de identificação, rastreabilidade e responsabilização em contextos de anonimato e rápida disseminação?
· Impactos diferenciados: como gênero, raça, idade e outras interseccionalidades moldam os riscos e danos associados a essas tecnologias?
Após as exposições, o debate será aberto ao público, buscando fomentar uma reflexão coletiva e situada sobre caminhos possíveis para enfrentar a violência de gênero facilitada por deepfakes a partir de uma perspectiva de direitos humanos.
Coordenadora de políticas públicas na Derechos Digitales. Advogada e mestre em Divulgação Científica e Cultural.