ブラックボックスLLMの不確実性を二段階アンサンブルで分解する
固定プロンプトの確率的デコードを内側、意味を保つプロンプト摂動を外側とする二段階アンサンブルで、生成文の埋め込み共分散をプロンプト内変動(AU)と摂動間変動(EU)に分解するブラックボックスUQ。
固定プロンプトの確率的デコードを内側、意味を保つプロンプト摂動を外側とする二段階アンサンブルで、生成文の埋め込み共分散をプロンプト内変動(AU)と摂動間変動(EU)に分解するブラックボックスUQ。
DiSPaTは、正常な表形式データだけを使い、LLMが生成したサンプルを擬似異常として自己遊びで対比し、fダイバージェンス最小化で正常分布への近さを反復改善する教師なし異常検知手法です。推論は負の対数尤度でスコア化し、原論文は既存LLM・深層・古典手法より良いと報告します。
本論文は、ロボットをタスク専用ポリシーの集合ではなく、基盤モデルと実行基盤(Embodied S2)が意図解釈・スキル/ツール編成・結果検証・適応を回すエージェント型システムとして捉える枠組みを提示する。
凍結した汎用LLMにOpenQASM 3の回路とPauli分解したハミルトニアンを渡し、回路パラメータ全体を生成させる検証。一般ハミルトニアンではAdamよりエネルギー誤差が大きく、追加のエネルギーFBも改善は限定的。
MITなどは、オープン重みの27B推論モデルを、実機データやデモなしで、シミュレータ上のロボット操作強化学習により訓練したと報告しています。モデルは指示・カメラ・腕状態を観測し、思考を経てエンドエフェクタ姿勢を出力し、IKと制御器が実行します。
FlinkEvalは、Confluent Cloud上のApache Flinkで参照SQLを実行検証して作るストリーミングNL2SQL向け合成ベンチマークです。3,903組のNL–SQLペアを45ドメインで用意し、ウィンドウ・時間結合・パターン一致・ネスト型・DMLを含みます。
本論文は、画像分類器の損失ではなく、事前学習した特徴空間で合成サンプルを実データへ引き寄せ、互いに反発させる「ドリフティング」でデータセット蒸留を行う。各画像の複数の拡張を同時に動かすことで、少数サンプルでも実分布の被覆と多様性を狙う。
ArchSpaceは、LLMのアーキテクチャ提案を実験・推論・失敗試行まで記録し、コミュニティが査読し、後続研究が参照できる公開基盤です。Phase Iで5つの計算予算のスケーリング則を比較し、Phase IIで1Bモデルを150B+10Bトークンで訓練して利得の持続と下流性能を確認します。
GeoWorldは、道路・天気・店舗状態・イベントなどがエージェントとは独立に変化する地理環境プラットフォームです。LiveGeoはその上で、静的/動的の対応タスクによりLLMエージェントの情報取得・証拠検証・再計画を評価します。
CRAMは、解いたパズルからHopfield-Tank型のエネルギーを学習し、推論をエネルギー降下として行う手法です。BPTTで推論過程を微分せずに済み、Sudoku-ExtremeとMaze-Uniqueでは学習が42ms/132ms、ループモデルより少なくとも1000倍高速と報告されています。