Fundamentos de Segurança de Agentes de AI

À medida que agentes de AI se tornam uma parte central do software moderno, protegê-los contra novos tipos de vulnerabilidades é essencial. Sem as defesas adequadas, modelos de linguagem podem ser manipulados para vazar dados ou executar comandos indesejados. Este curso oferece uma compreensão fundamental da segurança de aplicações de AI. Você explorará como identificar ameaças comuns e aplicar mecanismos de defesa práticos para manter seus sistemas seguros. Ao focar em conceitos fundamentais, você ganhará a confiança para construir fluxos de trabalho de AI resilientes. O que você aprenderá: • Compreender a terminologia central de AI e como os modelos de linguagem processam instruções • Identificar e prevenir tentativas de prompt injection e jailbreaking attempts • Implementar robust guardrails para validar entradas e filtrar saídas do modelo • Secure Retrieval-Augmented Generation (RAG) pipelines contra dados maliciosos • Aplicar princípios de sandboxing para isolar e controlar ações de agentes de AI • Projetar arquiteturas seguras para aplicações modernas de modelos de linguagem. O currículo começa com definições essenciais e a mecânica básica dos modelos de linguagem antes de guiá-lo através de vulnerabilidades específicas e estratégias de defesa. Você lerá explicações detalhadas e explorará padrões de código escritos para entender como as práticas de segurança são aplicadas em cenários do mundo real. Projetado para desenvolvedores e engenheiros de software que são iniciantes em segurança de AI, este curso não exige experiência prévia em cibersegurança ou machine learning avançado. Dê o primeiro passo para construir aplicações de AI seguras e confiáveis hoje mesmo.