ジェイルブレイクとは

ジェイルブレイクは、モデルに設定された安全上の制限を、役割設定や言い換えなどで回避させようとする入力です。外部から仕込まれるプロンプトインジェクションと違い、利用者自身が意図して行う点が特徴です。対話サービスを公開するときは、検知・記録・利用規約での対応を組み合わせます。