17/05/2025 –, Tula Pilar
Idioma: Português brasileiro
Muito tem sido debatido sobre tecnologia e vieses, representados pela persistência de convenções de gênero, raça, classe social, sexualidade, idade que se tornam formas de discriminação e diferentes formas de violência. Mais recentemente, esta discussão ganha novo fôlego a partir da popularização das ferramentas de inteligência artificial. Esta atividade quer problematizar a não neutralidade da tecnologia, tomando como base a IA, não apenas a partir dos bancos de dados, mas da própria concepção e construção das ferramentas.
Supor que apenas grandes bancos de dados sejam os responsáveis por reproduzir vieses na construção dessas tecnologias reduz a discussão a uma perspectiva tecnocrata e limitada. Na prática, o que observamos são tecnologias socialmente construídas, cujos desenhos, propósitos e aplicações refletem decisões humanas influenciadas por contextos culturais, históricos e sociais específicos. Tratar tais ferramentas como algoritmos neutros ignora que elas carregam valores, pressupostos e interesses inseridos durante todo seu processo de desenvolvimento, influenciando diretamente como operam e impactam diferentes grupos sociais. A atividade tem como principal objetivo oferecer ferramentas necessárias para analisar criticamente como Chat GPT e Gemini mimetizam essa observação.
O workshop se divide em dois momentos, sendo o primeiro uma atividade prática que tem como objetivo engajar os participantes a identificarem e refletirem sobre o enviesamento em tecnologias de Inteligência Artificial aplicadas a tarefas de interpretação textual. Em um segundo momento, contará com uma discussão de pessoas de diferentes áreas do conhecimento, facilitando um debate com os participantes sobre as percepções obtidas da atividade e possíveis desdobramentos éticos, sociais e políticos no uso de tecnologias de IA sem prévio conhecimento sobre sua construção e aplicação.
A atividade se desdobra a partir de uma prévia coleta e análise de notícias sobre os posicionamentos de Big Techs desde a eleição do então presidente Donald Trump (Nov 2024 - Abril 2025). A análise abrange notícias de diferentes meios de comunicação (tradicionais ou não), contendo textos em inglês que foram traduzidas para o português e também aqueles que originalmente foram escritos em português. As Ferramentas utilizadas serão ChatGPT e Gemini.
A partir de uma seleção de notícias também analisadas na coleta anterior, os participantes, divididos em grupos, serão convidados a realizar a mesma tarefa que foi aplicada a IA. O objetivo é identificar a partir de categorias de interpretação textual pré estabelecidas pelas facilitadoras, os elementos narrativos principais dos textos apresentados. Logo após o fim da análise, os participantes serão convidados a compartilharem os principais achados do texto baseados nas categorias de análise oferecidas. Vale notar, que para a realização da atividade os participantes não saberão que a mesma notícia que foi lida e interpretada pelos mesmos foram igualmente analisadas por uma IA.
Após o fim da primeira atividade, será realizada uma breve explicação aos participantes, na qual a cientista da computação Nina da Hora responsável pela aplicação da ferramenta de IA nos textos, abordará o método e ferramenta utilizados para a análise e explicará aos presentes que o objetivo da próxima discussão será fazer uma análise crítica comparativa em grupo entre os achados dos participantes com o que foi identificado pela IA.
Cientista da computação, Pesquisadore e Fundadore do Instituto Da Hora, onde desenvolve projetos focados em justiça algorítmica, soberania digital e inovação tecnológica contra-hegemônica.
Gestão de Políticas Públicas - Universidade de São Paulo ( EACH USP) Pesquisadora gênero e sexualidade com foco na comunidade LGBT+ em espaços de governança da Internet.
Seus principais interesses estão relacionados a estudos de gênero e sexualidade, governança da Internet com foco em seus impactos em comunidades vulneráveis, desinformação e impactos de dados e tecnologias na sociedade.
Antropóloga, pesquisadora da USP e coordenadora do Laboratório Etnográfico de Estudos Tecnológicos e Digitais.