テストタイム・スケーリング - 亜美と智也のAI論文解説 https://rag-lover.com 最新AI論文の知見を分かりやすく解説! Wed, 05 Aug 2026 10:01:50 +0000 ja hourly 1 https://wordpress.org/?v=7.1.4 https://rag-lover.com/wp-content/uploads/2024/03/cropped-1girl-young-woman-with-semi-long-caramel-brown-hair-wearing-a-bright-colored-o-s-1-32x32.png テストタイム・スケーリング - 亜美と智也のAI論文解説 https://rag-lover.com 32 32 LLM推論コストを削減するファジィ制御による適応的サンプリング手法 https://rag-lover.com/2026/08/05/arxiv-2608-03961/?utm_source=rss&utm_medium=rss&utm_campaign=arxiv-2608-03961 https://rag-lover.com/2026/08/05/arxiv-2608-03961/#respond Wed, 05 Aug 2026 10:01:50 +0000 https://rag-lover.com/2026/08/05/arxiv-2608-03961/ TL;DR LLMの推論時に、問題の難易度やモデルの自信度などの解釈可…

The post LLM推論コストを削減するファジィ制御による適応的サンプリング手法 first appeared on 亜美と智也のAI論文解説.

]]>

TL;DR

LLMの推論時に、問題の難易度やモデルの自信度などの解釈可能なシグナルをファジィ制御器に入力し、プロンプトごとにサンプリング数を動的に調整する手法。固定予算と比較して、精度を保ちつつ平均サンプル数を削減できる。

解説

AMI CURIOUS

ねえ智也くん、この論文のタイトル、『LLM推論コストを削減するファジィ制御による適応的サンプリング手法』って何か難しそうだね。ファジィ制御って何?

TOMOYA NEUTRAL

ああ、ファジィ制御っていうのは、曖昧なルールで制御する方法だよ。例えば「温度が高めなら風量を強く」みたいな感じで、人間の感覚に近い制御ができるんだ。

AMI INTERESTED

へー、それでLLMの推論コストをどうやって減らすの?

TOMOYA EXPLAINING

LLMで回答を生成するとき、複数回サンプリングしてから一番良い答えを選ぶことがあるんだ。でも毎回同じ回数サンプリングすると無駄が多い。この論文では、問題の難易度やモデルの自信度に応じてサンプリング数を動的に変えるんだよ。

AMI UNDERSTANDING

なるほど、簡単な問題は少なく、難しい問題は多くサンプリングするってこと?

TOMOYA NEUTRAL

そう。で、その「難易度」や「自信度」をどうやって測るかが問題なんだけど、この論文では解釈可能なシグナルを使ってるんだ。例えば、モデルが生成したトークンの確率とか、応答の一貫性とか。

AMI CURIOUS

それでファジィ制御がどう関わるの?

TOMOYA EXPLAINING

ファジィ制御器がそのシグナルを入力として受け取って、サンプリング数を決定するんだ。例えば「自信度が低い」かつ「難易度が高い」なら「サンプリング数を増やす」みたいなルールを設定する。

AMI IMPRESSED

へえ、それって人間の判断に近い感じだね。で、効果はどうだったの?

TOMOYA SATISFIED

実験では、固定予算でサンプリングする場合と比べて、精度をほぼ保ったまま平均サンプル数を削減できたんだ。特に簡単な問題ではサンプリング数を大幅に減らせたみたい。

AMI CONCERNED

すごい!でも、何か問題点はあるの?

TOMOYA THINKING

うーん、ファジィ制御のルールをどう設計するかが難しいところだね。あと、シグナルの選び方によっては性能が変わるかもしれない。それに、この手法は特定のタスクに特化してるから、汎用性はまだ限定的かも。

AMI JOKING

なるほどね。でも、コスト削減は大事だし、面白い研究だね。私もファジィ制御を使って宿題の量を調整できないかな?

TOMOYA TEASING

それはファジィ制御じゃなくて、ただの怠けだと思うよ。

The post LLM推論コストを削減するファジィ制御による適応的サンプリング手法 first appeared on 亜美と智也のAI論文解説.

]]>
https://rag-lover.com/2026/08/05/arxiv-2608-03961/feed/ 0
AIの「やり直し」が進化する!コストを抑えて賢くなる新技術SWE-Replay https://rag-lover.com/2026/01/30/ai%e3%81%ae%e3%80%8c%e3%82%84%e3%82%8a%e7%9b%b4%e3%81%97%e3%80%8d%e3%81%8c%e9%80%b2%e5%8c%96%e3%81%99%e3%82%8b%ef%bc%81%e3%82%b3%e3%82%b9%e3%83%88%e3%82%92%e6%8a%91%e3%81%88%e3%81%a6%e8%b3%a2%e3%81%8f/?utm_source=rss&utm_medium=rss&utm_campaign=ai%25e3%2581%25ae%25e3%2580%258c%25e3%2582%2584%25e3%2582%258a%25e7%259b%25b4%25e3%2581%2597%25e3%2580%258d%25e3%2581%258c%25e9%2580%25b2%25e5%258c%2596%25e3%2581%2599%25e3%2582%258b%25ef%25bc%2581%25e3%2582%25b3%25e3%2582%25b9%25e3%2583%2588%25e3%2582%2592%25e6%258a%2591%25e3%2581%2588%25e3%2581%25a6%25e8%25b3%25a2%25e3%2581%258f https://rag-lover.com/2026/01/30/ai%e3%81%ae%e3%80%8c%e3%82%84%e3%82%8a%e7%9b%b4%e3%81%97%e3%80%8d%e3%81%8c%e9%80%b2%e5%8c%96%e3%81%99%e3%82%8b%ef%bc%81%e3%82%b3%e3%82%b9%e3%83%88%e3%82%92%e6%8a%91%e3%81%88%e3%81%a6%e8%b3%a2%e3%81%8f/#respond Fri, 30 Jan 2026 14:36:58 +0000 https://rag-lover.com/2026/01/30/ai%e3%81%ae%e3%80%8c%e3%82%84%e3%82%8a%e7%9b%b4%e3%81%97%e3%80%8d%e3%81%8c%e9%80%b2%e5%8c%96%e3%81%99%e3%82%8b%ef%bc%81%e3%82%b3%e3%82%b9%e3%83%88%e3%82%92%e6%8a%91%e3%81%88%e3%81%a6%e8%b3%a2%e3%81%8f/ 解説 ねえねえ智也くん!この『SWE-Replay』っていう論文、タイ…

The post AIの「やり直し」が進化する!コストを抑えて賢くなる新技術SWE-Replay first appeared on 亜美と智也のAI論文解説.

]]>

解説

AMI HAPPY

ねえねえ智也くん!この『SWE-Replay』っていう論文、タイトルがかっこいいね!リプレイってことは、AIがゲームみたいにやり直しをするってこと?

TOMOYA NEUTRAL

まあ、あながち間違いじゃないよ。これはソフトウェア開発をするAIエージェントを、より効率的に賢くするための研究なんだ。

AMI SURPRISED

へぇー!AIがプログラミングするのって最近よく聞くけど、まだ課題があるの?

TOMOYA NEUTRAL

一番の課題は『コスト』だね。今のAIは、正解にたどり着くために何度も一からやり直して、たくさんの回答案を作るんだ。これをテストタイム・スケーリングって呼ぶんだけど、とにかく計算量と時間がかかるんだよ。

AMI NEUTRAL

えー、一からやり直すなんて効率悪いね。私だったら、失敗したところからやり直したいなー。

TOMOYA HAPPY

まさにそれがこの論文の核心だよ。SWE-Replayは、過去にAIが試した手順を保存しておいて、その途中の『ここが大事そうだ』っていうポイントから別の方法を試すんだ。ゲームのセーブポイントからやり直すようなものだね。

AMI SURPRISED

セーブポイント!わかりやすい!でも、どこが大事なポイントかなんて、AIにわかるの?

TOMOYA NEUTRAL

そこがこの研究の面白いところでね。2つの基準で選んでいるんだ。1つは『まだあまり調べていないファイルに触れようとしているか』。もう1つは『AIが深く考えているか』だね。

AMI SURPRISED

AIが深く考えてるかどうか……?AIの頭の中を覗くの?

TOMOYA NEUTRAL

物理的に覗くわけじゃないよ。AIが自分の考えを出力するときの『段落の数』を数えるんだ。段落が多いほど、複雑な問題を解決しようと必死に考えている可能性が高い、という理屈だね。これを『推論強度』と呼んでいるよ。

AMI HAPPY

なるほど!文字数じゃなくて段落数なんだね。確かに、ダラダラ書くより、ちゃんと整理して考えてる方が大事そうだもんね。

TOMOYA NEUTRAL

その通り。しかも、他の手法みたいに『別のAIに評価させる』っていう手間もコストもかからないから、すごく効率的なんだ。

AMI HAPPY

それで、実際にやってみてどうだったの?安くなった?

TOMOYA HAPPY

結果はバッチリだよ。SWE-Benchっていう難しいテストで、コストを最大17.4%も減らせたんだ。しかも、ただ安いだけじゃなくて、正解率も最大3.8%上がった。安かろう悪かろうじゃないのがすごいところだね。

AMI HAPPY

すごーい!節約しながら頭も良くなるなんて、理想的だね!これがあれば、未来のAIはもっとサクサク動くようになるのかな?

TOMOYA NEUTRAL

そうだね。この手法は特定のAIモデルに依存しないから、これから出てくるもっと強力なAIにもそのまま使えるはずだよ。ただ、今はまだ『どのタイミングで一からやり直すか、途中から再開するか』のバランス調整に改善の余地があるみたいだけどね。

AMI HAPPY

ふむふむ。じゃあ、私の人生にもSWE-Replayを導入して、テストの点数が悪かった中学生の時からリプレイしたいな!

TOMOYA ANGRY

それはリプレイじゃなくてタイムリープだろ。いいから、今の大学の勉強を頑張りなさい。

要点

  • SWE-Replayは、ソフトウェア開発AIエージェントの推論コストを削減しつつ、性能を向上させる新しいテストタイム・スケーリング手法である。
  • 従来の「何度も一からやり直す」手法とは異なり、過去の試行(軌跡)を再利用し、重要な中間ステップから分岐して探索を再開する。
  • 分岐点の選択には、まだ探索されていないファイルへのアクセス可能性と、AIの思考の深さ(推論の段落数)という独自の指標を用いる。
  • LLMによる自己評価(LLM-as-a-Judge)に頼らないため、評価のノイズに強く、最新の複雑なエージェントにも適用可能である。
  • SWE-Bench Verifiedでの評価では、コストを最大17.4%削減しながら、正解率を最大3.8%向上させることに成功した。

The post AIの「やり直し」が進化する!コストを抑えて賢くなる新技術SWE-Replay first appeared on 亜美と智也のAI論文解説.

]]>
https://rag-lover.com/2026/01/30/ai%e3%81%ae%e3%80%8c%e3%82%84%e3%82%8a%e7%9b%b4%e3%81%97%e3%80%8d%e3%81%8c%e9%80%b2%e5%8c%96%e3%81%99%e3%82%8b%ef%bc%81%e3%82%b3%e3%82%b9%e3%83%88%e3%82%92%e6%8a%91%e3%81%88%e3%81%a6%e8%b3%a2%e3%81%8f/feed/ 0