Bảo vệ hệ thống AI: LLM và an ninh đặc vụ

Khi hệ thống AI và các nhân viên LLM trở nên tích hợp sâu vào phần mềm hiện đại, bảo vệ chúng chống lại các lỗ hổng độc đáo là quan trọng hơn bao giờ hết. Chương trình này giới thiệu cho bạn các khái niệm cơ bản của an ninh AI, giúp bạn hiểu cách các kẻ tấn công khai thác các hệ thống này và cách bảo vệ họ. Bạn sẽ chuyển từ việc có một hiểu biết cơ bản về AI để có thể nhận dạng, phân tích và giảm thiểu rủi ro an ninh trong toàn bộ chu kỳ sống của một ứng dụng AI. Bạn sẽ học được gì: Hiểu được các lỗ hổng bảo mật cơ bản vốn có trong các mô hình ngôn ngữ lớn và mạng nơron; Phân tích các vectơ đe dọa phổ biến bao gồm tiêm nhanh, jailbreaking và nhiễm độc dữ liệu; Tìm hiểu các khung bảo mộ tiêu chuẩn ngành như OWASP Top 10 cho LLM Applications và MITRE ATLAS; Đánh giá rủi ro độc đáo đến các tác nhân AI tự trị, bao gồm cả các lỗ hổng đầu độc công cụ và chuỗi cung ứng; Ứng dụng kỹ thuật phòng thủ để bảo vệ mô hình, bộ nhớ, dữ liệu và kiến trúc hệ thống; Thực hành nhận dạng lỗ hỏng thông qua các kịch bản viết có cấu trúc và các bài tập khái niệm. Chương trình bắt đầu với thuật ngữ cơ bản và các khái niệm AI cơ bản trước khi hướng dẫn bạn qua các vectơ tấn công thế giới thực và các chiến lược phòng thủ hiện đại. Chương trình này được thiết kế cho các nhà phát triển phần mềm, người mới bắt đầu bảo mật, và các chuyên gia IT đang tìm cách tham gia lĩnh vực bảo mộ AI, mà không cần có kinh nghiệm trước đó trong bảo mệnh.