CoTの未知タスク汎化をステップ合成で説明する理論と実データ検証

投稿者: 亜美と智也のAI論文解説 編集部

本論文は、CoTを「共有した単一ステップ予測器の繰り返し適用」による合成的OOD汎化として理論化します。学習が各ステップのIDデータのみでも、最終タスクのリスクはステップ別リスクの和にT非依存のO(k)係数を掛けた形で抑えられ、推定誤差はTに線形ではなくO(√(T/n))になると示します。

ローカル小型LLMエージェントによる脆弱性再現:モデル規模と量子化の影響を評価

投稿者: 亜美と智也のAI論文解説 編集部

12構成のローカルなオープンウェイトモデルを、CyberGymの脆弱性再現タスク10件で各3回評価した研究。4Bモデルでも易しい6タスクの多くを解き、難しい4タスクには27Bが必要だった。量子化は解けたタスクを変えず速度に影響し、MoEは同じスコアを短い実時間で達成。

AIエージェントの物理研究を最初から論文まで評価するFRONTIERPHYSICS

投稿者: 亜美と智也のAI論文解説 編集部

FRONTIERPHYSICSは、物理学者自身の研究を基にした56タスクで、AIエージェントが文献調査から計画、実験・計算、数値成果物、論文執筆までを完遂できるかを評価する。決定論的検証と専門家ルーブリックを併用し、22モデル・26構成で最高でも168回中46回しか全通過しなかった。

地元商材のリアルタイム供給制約に対応する生成検索の実装と課題

投稿者: 亜美と智也のAI論文解説 編集部

地域デリバリーでは、位置・天候・交通で「今そのユーザーに提供可能な商材」が変わる。本論文は、カタログ上有効でも提供不能な候補を出す「供給ハルシネーション」に対し、リクエスト時の供給スナップショットをSID制約集合に変換し、CPUでCSR索引を構築してprefillと重ね、ビーム間で共有する制約付き…

長文脈は本当に必要か、頻繁な圧縮で短い文脈でも精度維持を検証

投稿者: 亜美と智也のAI論文解説 編集部

後ろのトークンほど生成コストが高く、長文脈では最大7倍程度の差が出る。NVIDIAの論文は、履歴や入力を頻繁に圧縮して16K〜50K程度の短い文脈で運用しても、長horizon・長入力タスクの精度が大きく落ちないと報告する。長文脈モデル必須という前提に疑問を投げるが、対象ベンチとモデルは限定的。