พื้นฐานความปลอดภัยของ AI Agent

เมื่อ AI agents กลายเป็นส่วนสำคัญของซอฟต์แวร์สมัยใหม่ การรักษาความปลอดภัยจากช่องโหว่ประเภทใหม่ๆ จึงเป็นสิ่งจำเป็น หากไม่มีการป้องกันที่เหมาะสม โมเดลภาษาอาจถูกควบคุมเพื่อทำให้ข้อมูลรั่วไหลหรือรันคำสั่งที่ไม่พึงประสงค์ได้ คอร์สนี้จะช่วยให้คุณเข้าใจพื้นฐานของความปลอดภัยในแอปพลิเคชัน AI คุณจะได้สำรวจวิธีระบุภัยคุกคามทั่วไปและใช้กลไกการป้องกันที่นำไปใช้ได้จริงเพื่อให้ระบบของคุณปลอดภัย การมุ่งเน้นที่แนวคิดพื้นฐานจะช่วยให้คุณมีความมั่นใจในการสร้างเวิร์กโฟลว์ AI ที่ยืดหยุ่นและทนทาน สิ่งที่คุณจะได้เรียนรู้: • เข้าใจคำศัพท์หลักของ AI และวิธีที่โมเดลภาษาประมวลผลคำสั่ง • ระบุและป้องกันความพยายามในการทำ prompt injection และ jailbreaking • นำ guardrails ที่แข็งแกร่งมาใช้เพื่อตรวจสอบข้อมูลนำเข้าและกรองผลลัพธ์ของโมเดล • รักษาความปลอดภัยให้กับ Retrieval-Augmented Generation (RAG) pipelines จากข้อมูลที่เป็นอันตราย • ประยุกต์ใช้หลักการ sandboxing เพื่อแยกส่วนและควบคุมการทำงานของ AI agent • ออกแบบสถาปัตยกรรมที่ปลอดภัยสำหรับแอปพลิเคชันโมเดลภาษาสมัยใหม่ หลักสูตรเริ่มต้นด้วยคำจำกัดความที่จำเป็นและกลไกพื้นฐานของโมเดลภาษาก่อนที่จะนำคุณไปสู่ช่องโหว่เฉพาะและกลยุทธ์การป้องกัน คุณจะได้อ่านคำอธิบายโดยละเอียดและสำรวจรูปแบบโค้ดที่เขียนขึ้นเพื่อทำความเข้าใจว่าแนวทางปฏิบัติด้านความปลอดภัยถูกนำไปใช้ในสถานการณ์จริงอย่างไร ออกแบบมาสำหรับนักพัฒนาและวิศวกรซอฟต์แวร์ที่เป็นมือใหม่ในด้านความปลอดภัยของ AI คอร์สนี้ไม่จำเป็นต้องมีประสบการณ์ด้านความปลอดภัยทางไซเบอร์หรือการเรียนรู้ของเครื่องขั้นสูงมาก่อน เริ่มต้นก้าวแรกสู่การสร้างแอปพลิเคชัน AI ที่ปลอดภัยและเชื่อถือได้ตั้งแต่วันนี้