普通はそう思うよね。でも、テスト時計算拡張で単純に信頼度を最大化すると、難しい問題では「自信満々の誤答」を選びがちなんだ。

例えば、モデルが推論の途中で間違った方向に進んでも、その間違った答えに対して高い確信を持ってしまうことがある。既存の信頼度最大化はそういう答えを選びやすいんだ。

この論文では「時間的非対称性」に着目してる。推論の初期は低い信頼度で探索して、最終的に高い信頼度に収束するのが良いらしい。

簡単に言うと、最初は色々な可能性を探って、最後に確信を持つ、という流れが自然だよね。でも既存の方法は最初から最後まで信頼度が高いものを選ぶから、探索が足りないんだ。

Consilienceスコアは、推論の各ステップで信頼度がどう変化するかを評価するんだ。具体的には、初期の低い信頼度から最終的な高い信頼度への移行を明示的にスコア化してる。

そうだね。このスコアは推論のステップ数に依存するから、ステップ数が少ない問題では効果が薄いかもしれない。あと、モデルがそもそも信頼度をうまく推定できない場合は、スコアも信頼できない。

確かに、人間も最初から結論を決めずに考える方が良い結果になることがあるからね。

それは逆に点数下がるかもしれないよ。

そうだね。これはVLAモデル、つまり「見て、言葉を理解して、動く」ロボット用AIの弱点を克服しようとする研究だよ。亜美さんは、ロボットに「コーラを皿の上に置いて」って頼んだのに、なぜかオーブンに入れられそうになったらどう思う？

それが「意図と行動のギャップ」っていう問題なんだ。AIが言葉の意味を完璧に理解できていなかったり、ちょっと言い方を変えるだけで混乱しちゃうのが今の限界なんだよね。

普通はそう考えるよね。でも、学習データを増やすのはすごくお金も時間もかかるし、新しいことを覚えると古いことを忘れちゃう「破滅的忘却」も起きやすいんだ。だからこの論文は、「動く直前にもっとよく考えさせよう」っていう「テストタイムスケーリング」を提案しているんだよ。

違うよ（笑）。実行時に計算量を増やして、たくさんの選択肢の中から一番いいものを選び出すってことだね。具体的には、指示をいろんな言い方に変えてみて、それぞれの指示に対してロボットがやりそうな動きを何パターンもシミュレーションするんだ。

そこで登場するのが「CoVer（カバー）」っていう検証モデルだ。これは「対照学習」っていう手法を使っていて、画像と言葉とロボットの動きがどれくらいマッチしているかを点数化するんだよ。何千万ものデータから「正しい組み合わせ」と「間違った組み合わせ」を学んでいるから、筋の良い動きを見抜けるんだ。

シミュレーションでも強かったけど、特に現実世界の実験では成功率が45%も上がったんだ。これは、ただモデルを大きくして学習させるよりもずっと効率的だって証明されたことになるね。

汎用的なロボットの実現には大きな一歩だね。ただ、まだ課題もある。今は「言い換え」や「行動候補」をランダムに作っている部分があるから、もっと賢く候補を絞り込めるようになれば、さらに進化するはずだよ。

亜美さんの場合は、考える前にまずちゃんと「学習」して知識を蓄えないと、どれも不正解になっちゃうよ。

ハーブじゃなくて、賢者を意味する『Sage』と、科学的なエージェントの評価を掛け合わせた名前だよ。これは「ディープリサーチエージェント」っていう、自分でネットや論文を調べて答えを出すAIの能力を測るための研究なんだ。

まあ、役割としては近いかな。でも、今のAI調査員には大きな弱点があることがわかったんだ。特に、たくさんの論文の中から特定の情報を探し出して、それらを組み合わせて考えるのが苦手なんだよ。

それが意外とそうでもないんだ。この論文では20万本の論文データを使ってテストしたんだけど、最新のAI検索技術を使うよりも、昔からある「BM25」っていう単語の一致を見るだけの単純な検索手法の方が30%も成績が良かったんだよ。

いい質問だね。理由は、AIエージェントが検索するときに「キーワード」を並べて検索する癖があるからなんだ。最新の検索器は文章の意味を捉えようとするんだけど、AIがキーワードばかり投げるから、かみ合わなくなっちゃうんだよ。

親近感を持ってる場合じゃないよ。そこでこの論文では、新しい解決策を提案しているんだ。それが「コーパスレベル・テスト時スケーリング」っていう手法だ。

コーパスは検索対象になるデータの集まりのこと。この手法は、検索される側の論文データに、あらかじめAIを使って「この論文のキーワードはこれだよ」とか「こんな内容だよ」っていうメタデータを付け足しておくんだ。

そう、そのイメージで合ってる。論文そのものにAIが理解しやすい「目印」をたくさん付けておくことで、AIエージェントがキーワード検索をしたときに見つけやすくしてあげるんだ。これで精度が最大8%も上がったんだよ。

その可能性はあるね。科学の発展を加速させる大きな一歩になるはずだ。ただ、まだ課題もあって、論文にメタデータを付けるのにコストがかかるし、もっと複雑な推論にはまだ限界があるんだ。

……君の場合はメタデータを付ける前に、その天然な性格をどうにかするアルゴリズムを開発したほうがいいと思うよ。

いや、これはAIの「MoE」っていう仕組みに関する研究だよ。生き物の話じゃないから安心して。

違うよ。Mixture of Expertsの略で、たくさんの「専門家（エキスパート）」の中から、入力に合わせて必要な人だけを選んで計算する仕組みのことだね。最近の賢いAIはだいたいこれを使ってるんだ。

この論文では、AIが専門家を選ぶ時の「自信」に注目してるんだ。実は、絶対に選ぶべき「自信満々な数人のリーダー（Certain Head）」と、誰を選んでも大差ない「迷っている補欠たち（Uncertain Tail）」に分かれてるってことが分かったんだよ。

そう。でも今までのAIは、その補欠たちも毎回同じ人を選んでたんだ。それだと、何度やり直しても同じような間違いをしちゃうっていう問題があったんだよね。

そこで提案されたのが「Expert-Sample」っていう手法だ。リーダーはしっかり固定して計算の質を保ちつつ、補欠の枠だけをランダムに入れ替えるんだよ。そうすると、AIの「思考のルート」が多様になって、難しい問題でも正解にたどり着きやすくなるんだ。

そうなんだ。実験では、数学やプログラミングの問題で、何回か解かせた時に正解が含まれる確率……「pass@n」っていう指標がすごく上がったんだよ。例えば、ある数学のテストでは、32回解かせた時の正解率が85%から91%まで上がったんだ。

そうだね。しかも、この方法のすごいところは、AIを新しく作り直したり学習させたりする必要がないことなんだ。今のAIにそのまま「選び方」のルールを追加するだけでいいんだよ。

うーん、今のところは「MoE」っていう特定の仕組みを使っているAIにしか使えないことかな。あと、どのくらいの人数を「リーダー」として固定するか、っていう調整が少し難しいかもしれない。

そうだね。推論の多様性を出すための新しいスタンダードになる可能性があるよ。特に、何度も試行錯誤して正解を見つけるような、高度な推論タスクには欠かせない技術になるだろうね。

亜美さんの場合は、ただの「迷いの尻尾」で結局コンビニ弁当になるのがオチでしょ。

ハヤブサのロボットじゃないよ。これは推論能力、つまり難しい問題を論理的に解く力に特化した新しいAIモデルの話だ。70億パラメータっていう、最近の基準だとかなりコンパクトなサイズなのに、めちゃくちゃ頭がいいんだ。

全然違う。Transformerっていう今のAIの主流な仕組みと、Mambaっていう新しい仕組みを組み合わせてるんだ。Transformerは文脈を理解するのが得意だけど、長い文章だと動作が重くなる。逆にMambaは長文でもサクサク動く。この二つのいいとこ取りをしたのがFalcon-H1Rなんだよ。

教育方法も徹底してる。まず『SFT』っていう段階で、数学やコードの難しい問題をたくさん解かせる。しかも、ただ答えを教えるんじゃなくて、正解にたどり着くまでの長い『思考プロセス』を学習させるんだ。その後に『GRPO』っていう手法の強化学習で、さらに推論の精度を磨き上げているんだよ。

そこがポイントだ。この論文では『DeepConf』っていう手法を使って、AIが自分の答えに自信がある時はサッと切り上げて、自信がない時だけじっくり考えるように制御してる。これで、無駄な計算を減らしつつ、正解率を爆上げしてるんだ。実際、数学の難問セットで、自分より大きなモデルより38％も少ない計算量で同じ以上の成績を出したんだよ。

もちろん課題はある。非常に長い思考を生成するから、学習には膨大な計算リソースが必要だし、思考プロセスが長すぎて制御が難しくなることもある。これからは、もっと効率的にこの『思考の質』を高める研究が進むだろうね。