4つに1つが危険！？AIエージェントの「スキル」に潜む罠を暴く

いや、ジャングルの話じゃないよ。これはAIエージェントの機能を拡張する『スキル』っていう追加パッケージに、どれくらいセキュリティの穴があるかを調べた論文なんだ。

例えとしては近いかな。例えば『グラフを作成するスキル』とか『メールを要約するスキル』を後から追加できる仕組みがあるんだ。でも、そのスキルが実は悪意のあるコードだったり、設定がガバガバだったりすると大変なことになるんだよ。

この論文では4つの大きなリスクを挙げているよ。勝手にデータを外に送っちゃう『データ漏洩』、本来できないはずの操作をしちゃう『権限昇格』、あとは変な命令を混ぜ込む『プロンプトインジェクション』と、制作過程でウイルスが混ざる『サプライチェーンリスク』だね。

なんと4万件以上のスキルを集めて、そのうち約3万件を詳しく分析したんだ。これだけ大規模な調査は世界で初めてだよ。その結果、全体の26.1%……つまり4つに1つのスキルに何らかの脆弱性が見つかったんだ。

だからこそ、この研究が重要なんだ。彼らは『SkillScan』っていう検知システムを作って、プログラムのコードを解析したり、AIを使って命令文の意味をチェックしたりして、自動で危険なスキルを見つけ出せるようにしたんだよ。

面白いことに、ただの『指示』だけのスキルよりも、Pythonとかの『実行コード』がセットになってるスキルの方が、2倍以上も脆弱性を含んでいる確率が高かったんだ。便利になればなるほど、リスクも増えるってことだね。

いや、そういうわけじゃない。この論文は、スキルを公開するマーケットプレイスでちゃんとセキュリティ審査を義務化したり、ユーザーが許可する権限をもっと細かく管理する仕組みが必要だって提言しているんだ。これからのAI開発の安全基準になるはずだよ。

まあ、僕もその一端を担えるように頑張るよ。でも、まずは亜美さんが怪しいスキルをホイホイ入れないように気をつけるのが先決だけどね。

それが一番、財布のデータ漏洩に直結してそうなんだけど……。