TL;DR
世界モデルは事実遷移だけでは「同じ外乱のもとで別の行動を取ったら?」を識別できない。論文は、観測結果に実行行動と代替行動の予測差を足す残差再利用で、反事実データ・追加パラメータ・再学習なしに個別反事実を推定できる条件と限界を示す。JEPAで画像から検証し、接触・座標の折れ・コマンドに比例する外乱などでは失敗しうると報告。
既存手法との違い
既存の行動条件付き世界モデル(JEPAを含む)は事実遷移から条件付き介入平均を学ぶため、同じ外乱下の個別反事実は識別できないと論文は定理2.2/H.2で述べる。実験では標準JEPAは平均未来を予測する。提案は同一の事実予測器を2回評価し、観測結果に差分を足す。真のシミュレータと完全状態を知るが外乱を知らないオラクル計画器は平均を予測し、後退計画で提案が上回ると報告。制御理論の外乱オブザーバ等との関連も述べるが、本論文の位置づけは学習済み世界モデルでの正当化と画素検証。
使える条件
対象は、行動と隠れ外乱が別々の力として入る加法構造に近い短時間遷移。事実遷移データと1つの観測遷移を使い、JEPAなど特徴空間の予測器に適用する。理論では条件付き交換可能性やoverlapなどの共有入力条件、滑らかな表現、隠れ速度への拡張を扱う。評価は描画シミュレータ4環境とBlueROV2、凍結DINOv2/MAEおよび追加4エンコーダ。実機・未知環境・RAG/LLMへの直接適用は提示本文から確認できない。
限界と未検証の範囲
短時間近似のO(h2)保証で、どの程度短ければよいかは系依存。外乱がコマンドをスケールする場合、不連続接触、座標の折れ・折り畳み表現では失敗しうる。評価はシミュレータ中心で、実機配備や分布外一般化は提示本文から確認できない。後退計画の成功率も35–69%で万能ではない。観測結果に依存するため、観測が外乱の手がかりを含まない条件は未検証。
図1: 提案手法の概要(本記事による図解)
解説

ねえ智也くん、この「反事実世界モデル」って論文、なんか面白そうだけど何が問題なの?

普通の世界モデルは事実遷移から「行動すると平均でどうなるか」を学ぶ。でも「同じ外乱で別の行動を取ったら?」という個別の反事実は、原理的に識別できないって論文は定理で示してる。

え、データ増やしても無理なの?

そう。事実データには同じ初期状態と外乱で二つの行動の結果がペアで入ってないから、どんなに表現力があっても曖昧さが残る。標準JEPAも平均未来を返す。

じゃあ提案はどうやってそれを解くの?

観測結果zt+1に、世界モデルが代替行動a′と実行行動aで予測する差分μ(zt,a′)−μ(zt,a)を足す。式だとẑt+1(a′)=zt+1+μ(zt,a′)−μ(zt,a)。

観測で実際の外乱の影響を拾って、行動を変えた分だけモデルの予測でずらす感じ?

そう。反事実データ、追加パラメータ、再学習は要らない。行動と外乱が別々の力で入る加法に近い短時間遷移なら、誤差はO(h²)で、同等のミニマックス下限もある。

評価はどうやったの?

描画シミュレータ4環境とBlueROV2で、凍結したDINOv2やMAEのJEPAに適用。物理量の反事実R²が38–46%から86–96%に上がり、BlueROV2は事実データ16倍で90–94%。追加のDINOv3、SigLIP 2、CLIP、EVA-02でも81–95%。

結構上がるんだ。比較対象は?

同じ事実予測器を使う標準JEPAは平均未来しか出せない。真のシミュレータと完全状態を知るが外乱を知らないオラクル計画器とも後退計画で比べて、提案は35–69%でゴール、オラクルは14–23%って報告。

でも万能じゃないんでしょ?

うん。短時間近似の保証で、どれくらい短ければいいかは系依存。不連続な接触、座標の折れ・折り畳み表現、外乱がコマンドをスケールする場合は失敗しうる。評価もシミュレータ中心で、実機配備や分布外一般化は本文からは確認できない。観測が外乱の手がかりを含まない条件も未検証。

使う前提は?

事実遷移データと1つの観測遷移、特徴空間の予測器。理論では条件付き交換可能性やoverlapみたいな共有入力条件、滑らかな表現、隠れ速度への拡張も扱う。行動と外乱が別チャネルって仮定が効く。

なるほどね。観測が「運」の情報を持ってるなら、失敗をデバッグしたり後から最善手を探したりに使えるのか。

そう。悪い判断と悪い運を分ける、ってのが大きい。

じゃあ私の今日のテスト失敗も、世界モデルがあれば「運が悪かっただけ」って証明できるかも!

まず観測結果に、勉強した形跡が入ってるか確認しないとだな。