Les fondamentaux de la sécurité des agents AI

Alors que les agents AI deviennent une partie centrale des logiciels modernes, les sécuriser contre de nouveaux types de vulnérabilités est essentiel. Sans défenses appropriées, les modèles de langage peuvent être manipulés pour divulguer des données ou exécuter des commandes non intentionnelles. Ce cours offre une compréhension fondamentale de la sécurité des applications AI. Vous explorerez comment identifier les menaces courantes et appliquer des mécanismes de défense pratiques pour maintenir vos systèmes en sécurité. En vous concentrant sur des concepts fondamentaux, vous acquerrez la confiance nécessaire pour construire des flux de travail AI résilients. Ce que vous apprendrez : • Comprendre la terminologie de base de l'AI et comment les modèles de langage traitent les instructions • Identifier et prévenir les tentatives de prompt injection et de jailbreaking • Mettre en œuvre des guardrails robustes pour valider les entrées et filtrer les sorties des modèles • Sécuriser les pipelines de Retrieval-Augmented Generation (RAG) contre les données malveillantes • Appliquer les principes de sandboxing pour isoler et contrôler les actions des agents AI • Concevoir des architectures sécurisées pour les applications modernes de modèles de langage. Le programme commence par des définitions essentielles et la mécanique de base des modèles de langage avant de vous guider à travers des vulnérabilités spécifiques et des stratégies de défense. Vous lirez des explications détaillées et explorerez des modèles de code écrits pour comprendre comment les pratiques de sécurité sont appliquées dans des scénarios réels. Conçu pour les développeurs et les ingénieurs logiciels débutants en sécurité AI, ce cours ne nécessite aucune expérience préalable en cybersécurité ou en machine learning avancé. Faites le premier pas vers la création d'applications AI sécurisées et fiables dès aujourd'hui.