Red Teaming: Protegendo LLMs e Sistemas de IA Agentic

À medida que os modelos de linguagem grandes (LLMs) e os agentes de IA autônomos se tornam profundamente integrados aos sistemas de software, protegê-los contra novas vulnerabilidades é uma prioridade crítica. Este curso fornece uma introdução abrangente ao red teaming de IA, equipando você com a mentalidade e as técnicas necessárias para encontrar e corrigir falhas de segurança em aplicativos de IA de forma proativa. Sob a orientação de explicações escritas estruturadas, você aprenderá a: Compreender os principais conceitos de segurança de IA, modelagem de ameaças e as 10 principais vulnerabilidades do OWASP para LLMs; Analisar técnicas de injeção rápida, jailbreaking e envenenamento de dados de treinamento; Avaliar riscos exclusivos para a IA agentic, incluindo exploração de uso de ferramentas e loop lógico Este curso começa com definições fundamentais de arquiteturas de IA e parâmetros de segurança, antes de orientá-lo passo a passo através de cenários de ameaças por escrito e estratégias de mitigação. Projetado para desenvolvedores, entusiastas de segurança e engenheiros de sistemas que são novos na segurança de IA, este programa não requer experiência prévia em red teaming.