プロンプトインジェクション攻撃

プロンプトインジェクション攻撃とは、生成AIに入力するプロンプトの前後に「悪意のある文字列」を追加することで、システムプロンプトを追加させない、システムプロンプトを無視させる手法のことです。

これを利用するとシステムプロンプトで制限されているはずの生成が有効になります。

手法はSQLインジェクションとまったく同じです。