Solid intro to prompt injection defenses, though the section on indirect injection felt a bit rushed.
이 과정 소개
LLM(대규모 언어 모델)이 더 많은 애플리케이션에 통합됨에 따라 새롭고 고유한 보안 위험이 발생합니다. 가장 일반적이고 치명적인 취약점은 악의적인 사용자가 모델의 동작을 납치할 수 있는 프롬프트 인젝션입니다.
이 과정은 이러한 공격에 대한 방어에 필요한 실용적인 기술에 중점을 둔 AI 보안에 대한 기초적인 이해를 제공합니다. 공격자처럼 생각하여 취약점을 파악하고, LLM 기반 애플리케이션과 사용자를 보호하기 위한 강력한 방어 또는 '가드레일'을 구축하는 방법을 배우게 됩니다.
학습 내용:
- 프롬프트 인젝션 및 탈옥을 포함한 변형의 핵심 원리 이해
- 사용자 대면 애플리케이션에서 일반적인 공격 패턴 식별 방법 학습
- 입력 정리, 지침 방어 및 출력 필터링과 같은 방어 기법 적용
- 대규모 언어 모델에 대한 API 호출을 위한 보안 래퍼 구축 연습
- 잠재적인 보안 위협을 탐지하기 위한 기본 모니터링 및 로깅 구성
- 데이터 개인 정보 보호 문제를 포함한 AI 보안 위험의 더 넓은 환경 탐색
이 과정은 프롬프트 엔지니어링의 기본 개념과 인젝션 공격의 메커니즘으로 시작하여 실습 방어 전략 및 보안 시스템 구축을 위한 모범 사례로 진행됩니다.
이 과정은 AI 보안 문제에 익숙하지 않은 개발자, 보안 분석가 및 기술 전문가를 위해 설계되었습니다. AI 보안에 대한 사전 경험은 필요하지 않지만 소프트웨어 개발 개념에 대한 기본적인 이해가 있으면 도움이 됩니다.
AI 보안 여정을 시작하고 더 탄력적인 애플리케이션을 구축하는 방법을 배우십시오.
받게 되는 것
-
📜
수료증
LinkedIn 프로필에 추가 -
♾️
평생 이용
언제든 다시 보세요, 만료 없음 -
📱
휴대폰 또는 컴퓨터
어디서든 모든 기기에서 -
💸
14일 환불
이유 묻지 않음 -
⚡
짧고 핵심적
31분의 실용 학습
리뷰 (2)
Modul tentang cara penyerang menyelitkan arahan tersembunyi dalam input pengguna benar-benar membuka mata saya. Teknik sanitasi dan pengasingan prompt sistem diterangkan dengan jelas, cuma saya harap ada lebih banyak contoh serangan sebenar pada sistem produksi.
다른 학습자도 수강
자주 묻는 질문
이 과정을 듣는 데 무엇이 필요한가요? +
인터넷이 되는 휴대폰이나 컴퓨터만 있으면 됩니다. 설치나 특별한 장비는 필요 없습니다.
결제는 어떻게 하나요? +
Stripe를 통한 카드로. 카드 정보는 저장하지 않으며 Stripe가 안전하게 처리합니다.
환불받을 수 있나요? +
네 — 14일 이내 전액 환불, 이유를 묻지 않습니다.
얼마나 오래 이용할 수 있나요? +
평생. 구매하면 과정은 당신의 것이며 언제든 다시 볼 수 있습니다.
수료증을 받을 수 있나요? +
네. 수료 시 LinkedIn 프로필에 추가할 수 있는 수료증을 받습니다.
이런 분야 학습자에게
테크
디자인
금융
마케팅
의료
교육
호스피탈리티
제조업