AIの「知ったかぶり」をコードで解決！最新のハルシネーション対策技術KDCM

幽霊じゃないよ。ハルシネーションは、AIがもっともらしい嘘をついちゃう現象のことだ。この論文は、特にユーザーの指示（プロンプト）が分かりにくい時に起きる間違いをどう防ぐかっていう研究だよ。

「知識蒸留チェーン」っていう考え方をベースにしていて、そこに「コード」と「知識グラフ」を組み合わせるんだ。知識グラフっていうのは、事実を網の目状につないだデータベースのことだよ。

そう。推論の途中で実行可能なコードを生成して、それを使って知識グラフから正確な情報を取ってくるんだ。言葉だけで考えるんじゃなくて、プログラムという厳密なルールを使って情報を整理するから、間違いが減るんだよ。

いい例えだね。具体的には、まず難しい質問を小さな問題に分けて、次にコードを使って外部の知識を確認しながらステップバイステップで考えていくんだ。これを「コードガイド付き推論」と呼んでいるよ。

かなり高い効果が出ているよ。GPT-4とかを使った実験で、「HIT@1」っていう、一番最初の回答が正解である確率が95%を超えたケースも多いんだ。従来の方法より15%くらい精度が上がっているデータもある。

……。この手法のいいところは、精度だけじゃなくて「どうしてその答えになったか」がコードや推論のステップとして残るから、人間がチェックしやすい（解釈性が高い）ところでもあるんだ。

そうだね。ただ、課題もある。コードを実行したり外部の知識を探したりする分、計算に時間がかかるし、そもそも正確な知識グラフが用意されていない分野では使えないんだ。

論文でも、今後はマルチモーダル、つまり画像や音声も含めた推論への応用を考えているみたいだよ。より複雑な問題も解けるようになるはずだ。

それはバグの原因にしかならないから、今すぐデバッグして削除するよ。