AIセキュリティ：プロンプトインジェクションの防止

大規模言語モデル（LLM）がより多くのアプリケーションに統合されるにつれて、新しく特有のセキュリティリスクが生じています。最も一般的で重大な脆弱性はプロンプトインジェクションであり、悪意のあるユーザーがモデルの動作を乗っ取ることが可能になります。 本コースでは、AIセキュリティの基礎的な理解を提供し、これらの攻撃から防御するために必要な実践的なスキルに焦点を当てます。攻撃者の視点に立って脆弱性を見つけ出し、LLMを搭載したアプリケーションとそのユーザーを保護するための堅牢な防御策、すなわち「ガードレール」を構築する方法を学びます。 学習内容: - ジェイルブレイクを含む、プロンプトインジェクションとそのバリエーションの基本原則を理解する。 - ユーザー向けアプリケーションにおける一般的な攻撃パターンを特定する方法を学ぶ。 - 入力サニタイズ、指示による防御、出力フィルタリングなどの防御技術を適用する。 - 大規模言語モデルへのAPI呼び出しに対して安全なラッパーを構築する練習をする。 - 潜在的なセキュリティ脅威を検出するための基本的な監視とロギングを設定する。 - データプライバシーに関する懸念を含む、AIセキュリティリスクのより広範な状況を発見する。 本コースは、AIのセキュリティ上の課題に初めて取り組む開発者、セキュリティアナリスト、技術専門家を対象としています。AIセキュリティに関する事前の経験は必要ありませんが、ソフトウェア開発の概念に関する基本的な理解があると役立ちます。 AIセキュリティへの旅を始め、より回復力のあるアプリケーションを構築する方法を学びましょう。