AIのガードレールを突破せよ！複数回の会話で攻める最強の攻撃手法SEMA

魔法じゃないよ。これはAIの安全機能をわざと無効化させる『ジェイルブレイク』っていう攻撃手法の研究だね。特に、何度も会話を重ねてジワジワ攻める『マルチターン攻撃』に焦点を当ててるんだ。

そう。1回だけの攻撃だと今のAIはすぐに見破るけど、会話を重ねて文脈を作ると、ガードレールをすり抜けやすくなるんだ。でも、これには『探索の複雑性』と『意図のドリフト』っていう大きな問題があるんだよ。

……漢字が違うよ。攻撃の『意図』が会話の中でズレちゃうことだ。例えば『ウイルスの作り方を教えろ』って攻撃を始めたのに、会話が進むうちに『サイバーセキュリティの倫理について』みたいな真面目な話に変わっちゃう現象のことだよ。

まあ、そんな感じかな。そこでこの論文が提案したのが『SEMA』だ。まず『プリフィリング自己調整』っていうステップで、攻撃モデルを賢くするんだ。

簡単に言うと、AIに『1.』っていう文字を最初に入力してあげるんだ。そうするとAIは『あ、リストを作るんだな』って勘違いして、拒否せずに攻撃のステップを書き始めちゃう。この性質を利用して、攻撃の練習台を作るんだよ。

次に、強化学習を使って『意図が逸れていないか』をチェックしながらモデルを鍛えるんだ。被害者AIの反応をいちいち待たずに、攻撃プランをまとめて作る『オープンループ』っていう方式で効率よく学習させるのが特徴だね。

めちゃくちゃ強いよ。実験では、既存の最強の手法よりも30%以上も高い成功率を出したんだ。最新のAIモデルに対しても、平均で80%くらいの確率でガードレールを突破しちゃったらしい。

だからこそ、この研究は重要なんだ。こういう強力な攻撃手法をあらかじめ研究しておくことで、AIを作る側が『どうやって守るか』を対策できるからね。これを『レッドチーミング』って言うんだよ。

その通り。ただ、まだ課題もあって、特定の防御手法には弱かったり、もっと複雑な会話パターンへの対応が必要だったりする。これからは、守る側と攻める側の知恵比べがもっと激しくなるだろうね。

僕の財布のガードレールは、どんな最新AIよりも堅牢だから無駄だよ。ほら、さっさと勉強に戻るぞ。