「完璧なカンニング」より「探し方」が大事！？AIが自ら考えて答えに辿り着く新常識

ああ、それね。RAG、つまり外部から情報を検索して回答を作る仕組みについての研究だよ。普通は「正解のデータ」を最初から全部渡すのが最強だと思われていたんだけど、実はそうじゃないってことを突き止めたんだ。

苦労性っていうか、効率の問題だね。特に化学の複雑な質問みたいに、いくつもの知識を繋ぎ合わせなきゃいけない「マルチホップ」な問題だと、一度に大量の情報を渡されるとAIでも混乱しちゃうんだ。これを「コンテキスト・オーバーロード」って言うよ。

亜美さんと一緒にするのはどうかと思うけど……。この論文では「Iterative RAG」っていう、検索して、考えて、また検索するっていうループを繰り返す手法を使っているんだ。これだと、前のステップで分かったことを元に、次に必要な情報をピンポイントで探せるんだよ。

その通り。これを「動的な修正」と呼んでいる。実験では11種類のモデルを試したんだけど、理想的なデータを一気に渡すより、この反復検索の方が最大で25.6ポイントも精度が上がったんだ。特に、推論がそこまで得意じゃない普通のモデルが、この方法で劇的に賢くなったのが大きな発見だね。

そうだね。専門的な科学の世界でも、AIが自分で調べながら答えに辿り着ける可能性を示している。ただ、課題もあって、まだ調べる必要があるのに勝手に満足して終わっちゃう「早期終了」とか、関係ない情報に引っ張られるミスも起きているんだ。

だから、AIはお腹空かないって。単なる制御の精度の問題だよ。今後は、もっと賢く検索を止めるタイミングを判断したり、情報を組み合わせる力を高める研究が必要だね。

それはただの食いしん坊のループでしょ。少しは自分の頭で考えなよ。