いや、全然違うよ。これは連合学習っていう、みんなでデータを持ち寄らずにAIを賢くする方法で、AIが喋った言葉が『誰の教え』によるものかを突き止める技術なんだ。

そう、まさにそれ。連合学習はプライバシーを守るために元のデータは見せない仕組みなんだけど、そのせいでAIが変なことを言った時に、誰のデータが原因か分からなかったんだ。それを解決するのがこのProTokenだよ。

そこがこの論文の肝だね。まず、LLMは一文字ずつ、次に続く言葉を予想して喋る『自己回帰』っていう仕組みなんだけど、ProTokenはその一文字（トークン）ごとに誰の影響が強いかを計算するんだ。

鋭いね。全部計算すると時間がかかりすぎるから、この研究では『トランスフォーマー』っていうAIの構造の、後半の層だけを狙い撃ちしてるんだ。後半の層にこそ、特定の知識や癖が出やすいっていう性質を利用しているんだよ。

そう。さらに『勾配』っていう、その言葉を出すためにどのニューロンがどれだけ頑張ったかを示す指標を使って、関係ないノイズをカットしているんだ。これで、特定のクライアントの影響をくっきり浮かび上がらせるわけだね。

実験では、わざと変な回答を教え込んだ『バックドア』っていう罠を仕掛けたクライアントを、98.62%の精度で特定できたらしいよ。医療や金融、プログラミングとか、いろんな分野で試してもバッチリだったんだって。

そうだね。それだけじゃなくて、誰が一番役に立つデータをくれたか分かるから、公平にお礼を支払うのにも使える。連合学習の信頼性を支える、すごく大事な一歩なんだよ。

まあ、プライバシーの問題があるからそこまでは出さないだろうけど、管理者はデバッグしやすくなるだろうね。ただ、AIが元々持っている知識と、後から教わった知識を完全に切り分けるのはまだ難しいっていう課題もあるみたいだ。

そんなニッチなデータ、AIに学習させるまでもないよ。さ、研究に戻るからもういいかな？