09/05/2026 –, Tula Pilar (piso térreo) Idioma: Português brasileiro
Aplicações baseadas em modelos de linguagem estão se tornando cada vez mais comuns, mas também introduzem novas superfícies de ataque que ainda são pouco compreendidas. Nesta palestra vamos explorar como sistemas que utilizam LLMs podem ser manipulados por meio de técnicas como prompt injection, jailbreaks e manipulação de contexto. A partir de exemplos práticos, discutiremos como esses ataques funcionam e quais abordagens podem ajudar desenvolvedores a projetar aplicações de IA de forma mais segura.
O crescimento rápido de aplicações baseadas em modelos de linguagem está mudando a forma como construímos software. Chatbots, assistentes de programação, automações e agentes inteligentes já estão sendo integrados a APIs, bancos de dados e sistemas internos. No entanto, essa nova arquitetura também traz desafios de segurança que ainda estão sendo pouco discutidos.
Diferente de sistemas tradicionais, aplicações baseadas em LLMs lidam diretamente com linguagem natural, o que significa que a entrada do usuário pode influenciar o comportamento do sistema de maneiras inesperadas. Isso abre espaço para diferentes formas de manipulação, como prompt injection, alteração de contexto ou exploração indireta de ferramentas conectadas ao modelo.
Nesta palestra vamos explorar como essas vulnerabilidades surgem na prática e por que muitos sistemas atuais acabam sendo suscetíveis a esse tipo de ataque. A apresentação também discute como adaptar conceitos clássicos de segurança, como isolamento, validação e limites de confiança, para aplicações que utilizam inteligência artificial.
Inspirada nos conceitos apresentados no livro The Developer's Playbook for Large Language Model Security, a palestra busca ajudar desenvolvedores e pesquisadores a entender melhor os riscos dessa nova geração de software e refletir sobre como construir aplicações baseadas em IA de forma mais segura.
Sou desenvolvedor de software com experiência na construção de aplicações web e mobile escaláveis. Ao longo da minha carreira participei de diversos projetos que ajudaram empresas a crescer, desenvolvendo produtos digitais robustos e focados em boa experiência para o usuário.
Trabalho tanto no frontend quanto no backend, principalmente com tecnologias como Node.js, React, React Native e TypeScript
Também me interesso bastante por temas relacionados a segurança, arquitetura de sistemas e inteligência artificial, especialmente no contexto de aplicações que utilizam modelos de linguagem.