プロンプト注入に強いLLMへ:SecPOと敵対的訓練で防御強化

投稿者: 亜美と智也のAI論文解説 編集部

Meta-SecAlignのDPOは無防御モデルに近づけるKL正則化のため、適応的なプロンプト注入に弱い。SecPOは参照を「注入除去時と同じ出力」の理想オラクルに置換し、さらに強い注入で敵対的訓練する。論文は適応攻撃の成功率を大幅に下げつつ、良性タスクの性能を維持したと報告している。

RAGの不要な検索を減らす信頼度ベースのエージェント検索学習

投稿者: 亜美と智也のAI論文解説 編集部

本論文は、LLMが各中間状態で「今の情報で進めるか検索するか」を、最終正解だけでなく局所結論の信頼度で監督するGRPO向けプロセス報酬を提案する。検索なしは現状信頼度、検索ありは検索前後の信頼度変化をスコア化し、7つのQAベンチマークで精度と検索効率のトレードオフ改善を報告している。

接触を伴うロボット作業向けにVLAへ可変剛性を追加するCompVLA

投稿者: 亜美と智也のAI論文解説 編集部

CompVLAは、RGB画像と言語からロボットの動きに加えて方向別の剛性と仮想変位を予測し、接触時に柔らかく動きつつ必要な力を出せるようにするVLAです。予測値は幾何インピーダンス制御で実行され、接触の多い3タスクで既存VLAより平均成功率が高いと報告されています。

同じ禁煙質問でも助言が変わる?6つのLLMをペルソナ別に監査

投稿者: 亜美と智也のAI論文解説 編集部

本論文は、同じ4つの禁煙質問を12種類のユーザーペルソナから6つの商用LLMに与え、合計2,880応答を監査した研究です。全モデルで、ティーンペルソナには成人よりFDA承認の処方禁煙薬を言及する割合が32〜67ポイント低く、5/6モデルでは医療専門家を名乗るペルソナの方が事実数が少ない傾向でした。