ラジオとはちょっと違うけど、考え方は近いかもしれないね。これはLLMがつく「もっともらしい嘘」、つまりハルシネーションをどうやって見つけるかっていう研究だよ。

まず、LLMが文章を作る時に、入力された情報のどこに注目しているかを示す「アテンション」っていう仕組みがあるんだ。普通、正しい情報を参照している時は、その注目先が安定している。でも、嘘をつく時はその注目先がフラフラして、あちこちに飛び散る傾向があるんだよ。

……まあ、例えとしては悪くないかな。その「目の泳ぎ」を、数学的に「信号の揺れ」として捉えるのがこの論文の面白いところなんだ。アテンションの動きを波として見て、その波が細かくギザギザしている、つまり「高周波」な成分が多い時にハルシネーションだと判定するんだよ。

ここで信号処理の技術を使うんだ。離散フーリエ変換（DFT）や離散ウェーブレット変換（DWT）っていう手法を使って、アテンションの波を「ゆっくりした変化」と「急激な変化」に分解する。急激な変化、つまり高周波成分のエネルギーが大きいほど、AIの「注目」が不安定で、嘘をついている可能性が高いってわけだ。

そうだね。この手法のいいところは、LLMの内部にあるアテンションの数値を見るだけだから、すごく動作が軽いんだ。わざわざ別のAIに「この回答は合ってる？」って聞き直す必要がないからね。

RAGTruthっていう、ハルシネーション検出の有名なテストセットで実験したんだけど、既存のどの手法よりも高い精度で嘘を見抜けたらしいよ。特に、文脈に基づいた回答が求められるタスクで強いんだ。

嘘を「見抜く」技術が進めば、それを元に「嘘をつかないように修正する」こともできるようになるだろうね。ただ、まだ課題もある。アテンションが複雑すぎて、なぜ特定の層で揺れが起きるのか、そのメカニズムが完全に解明されたわけじゃないんだ。