脳科学の知恵でAIのウソを見抜く！爆速で正確な新技術『Pcib』がすごい

必殺技じゃないよ。これはLLMがつく「ハルシネーション」、つまりもっともらしい嘘を、脳科学の理論を使って見抜こうっていう研究なんだ。

自慢することじゃないだろ。今のAIは、ユーザーに合わせようとして嘘をつく「追従性（Sycophancy）」っていう問題もあるんだ。この論文は、それを外部の検索エンジンとかを使わずに、AI自身の反応だけで見抜く「Pcib」っていう手法を提案してるんだよ。

心というか、情報の処理の仕方を見るんだ。まず「予測符号化」っていうのは、脳が「予測エラー」を最小限にしようとする仕組みのこと。これを応用して、AIが与えられたヒント（文脈）をちゃんと使って回答したか、それとも無視して自分の思い込みで答えたかを「Uptake（取り込み）」として数値化するんだよ。

こっちは「情報の圧縮」に関する理論だね。正しい知識は言い方を変えても揺るがないけど、嘘は「脆い」はずだっていう仮説を立ててる。質問の言い方を少し変えただけでAIの答えがグラグラ揺れる度合いを「Stress（ストレス）」として測るんだ。

……まあ、似たようなものかな。他にも、言い換えた答え同士が矛盾してないかチェックする「Conflict（矛盾）」っていう指標も使っているよ。

そこがこの論文の面白いところでね。AIに「なぜその答えになったか理由を説明して」って頼んでも、AIは嘘の答えに対してもっともらしい理由を後付けで作っちゃうんだ。だから、説明の一貫性をチェックしても嘘は見抜けないっていう「負の結果」が出たんだよ。

だからこそ、こういう「Pcib」みたいな、AIの内部状態に基づいた解釈可能な検出法が重要なんだ。これからは、医療や法律みたいな絶対に嘘が許されない分野で、この軽量なモデルがリアルタイムで嘘を監視するようになるかもしれないね。

そんなことしなくても、君が適当なこと言ってるのは顔を見れば5ミリ秒でわかるよ。