AIの「うっかり丸暗記」を狙い撃ち！爆速でプライバシーを守る新技術GSS

必殺技じゃないよ。これはLLMが学習データを「丸暗記」してそのまま喋っちゃうのを、賢く防ぐための技術についての論文だね。

AIの場合は話が別なんだ。誰かの住所とか、著作権のある文章をそのまま出力しちゃうとプライバシーや法律の問題になるだろ？それに、丸暗記に頼ると「新しい問題に応用する力」、つまり汎化性能が落ちちゃうんだよ。

そこがこの論文の面白いところでね。調査の結果、丸暗記は「たまにしか起きない」ことがわかったんだ。ずっと丸暗記モードなわけじゃなくて、特定の単語の時だけ急にスイッチが入る感じだね。

例えは変だけど、現象としては近いね。だから、今までの手法みたいにモデル全体をずっと修正し続けるのは非効率だし、普通の知識まで壊しちゃう。そこで提案されたのが「GSS」っていう手法なんだ。

まず「プローブ」っていう探知機で、今出そうとしている言葉が丸暗記っぽいかどうかをチェックする。で、もし怪しいと判断されたら「ゲート」が開いて、「ステア」っていう操作で丸暗記の成分だけをグイッと抑え込むんだ。

鋭いね。そこには「一般化特異値分解」っていう数学的な魔法を使っているんだ。普通の知識が詰まった空間を邪魔しないように、丸暗記だけが目立つ「サブスペース（部分空間）」を見つけ出して、そこだけを狙い撃ちするんだよ。

実験の結果、他の最新手法と同じかそれ以上に丸暗記を減らせたよ。しかも驚くべきはスピードだ。他の方法より100倍から1000倍も計算が速いんだよ。

……まあ、計算コストがそれだけ低いってことだね。推論の時にちょっと付け足すだけでいいから、すごく実用的だよ。将来的には、AIが勝手に秘密を漏らさないための標準的なガードレールになるかもしれない。

そうだね。まだ特定のデータセットでの検証が中心だし、どんな種類の丸暗記にも対応できるかはこれからの課題かな。あと、ゲートのしきい値をどう決めるかっていう難しさもある。

亜美さんの場合は、ゲート以前にまず「勉強のデータ」を学習させるところから始めないと、抑える成分すら空っぽだろ。