Fundamentos de Seguridad de Agentes de AI

A medida que los agentes de AI se convierten en una parte central del software moderno, protegerlos contra nuevos tipos de vulnerabilidades es esencial. Sin las defensas adecuadas, los modelos de lenguaje pueden ser manipulados para filtrar datos o ejecutar comandos no deseados. Este curso proporciona una comprensión fundamental de la seguridad de las aplicaciones de AI. Explorará cómo identificar amenazas comunes y aplicar mecanismos de defensa prácticos para mantener sus sistemas seguros. Al centrarse en conceptos fundamentales, ganará la confianza necesaria para crear flujos de trabajo de AI resilientes. Lo que aprenderá: • Comprender la terminología central de AI y cómo los modelos de lenguaje procesan instrucciones • Identificar y prevenir intentos de prompt injection y jailbreaking • Implementar robustos guardrails para validar entradas y filtrar salidas del modelo • Asegurar pipelines de Retrieval-Augmented Generation (RAG) contra datos maliciosos • Aplicar principios de sandboxing para aislar y controlar las acciones de los agentes de AI • Diseñar arquitecturas seguras para aplicaciones modernas de modelos de lenguaje. El plan de estudios comienza con definiciones esenciales y la mecánica básica de los modelos de lenguaje antes de guiarlo a través de vulnerabilidades y estrategias de defensa específicas. Leerá explicaciones detalladas y explorará patrones de código escritos para comprender cómo se aplican las prácticas de seguridad en escenarios del mundo real. Diseñado para desarrolladores e ingenieros de software que son principiantes en seguridad de AI, este curso no requiere experiencia previa en ciberseguridad o machine learning avanzado. Dé el primer paso hacia la creación de aplicaciones de AI seguras y confiables hoy mismo.