TL;DR
LifelongVLAは、凍結したVLA基盤に短期LoRA（可塑性）と長期LoRA（安定性）を置き、タスク対応ゲートで重みレベルに合成するロボット操作の生涯学習手法です。過去スキルは少量のprefixキャッシュと確率的リプレイで保持し、全軌跡保存を避けます。論文の10タスク系列では平均成功率83.2%と報告され、既存の生涯学習ベースラインを上回りますが、評価はxArm実機と限られた設定に留まります。
既存手法との違い
原論文のTable 1では、同一の生涯VLA設定で10タスクの成功率を比較しています。比較対象は、逐次ファインチューニングのSFT、LwF-LoRA、経験リプレイのER、Info-VLA、AtomicVLAで、Jointは全タスク同時学習の上限としてランキングから除外されています。報告されている平均成功率はOurs 83.2%、ER 70.2%、Info-VLA 28.6%、AtomicVLA 28.6%、SFT 7.8%、LwF-LoRA 7.8%、Joint 89.6%です。違いとして、LifelongVLAは短期・長期LoRAをタスク対応ゲートで明示的に合成し、全軌跡ではなくstop-gradient prefixトークンと状態・行動監督を保存する確率的リプレイで保持信号を得る点を挙げています。
使える条件
対象は言語指示・視覚観測・ロボット状態から連続行動列を生成するVLAポリシーです。前提として、事前学習VLA基盤（図2ではPaliGemma 2BとGemma 300MのAction Expert）を凍結し、線形層にLoRAを適用します。学習設定はオンラインのタスク列で、現在タスクのデータのみ利用可能、過去データは上限付きキャッシュのみ、将来タスクは未知、推論時にタスクIDは与えられません。論文では10タスクの操作系列とxArm実機での展開を評価しています。
限界と未検証の範囲
本論文の評価は10タスク系列とxArm実機に限定されており、他のロボット、異なるVLAバックボーン、より長いタスク列、タスク順序の影響への一般化は提示本文からは確認できません。全軌跡保存を避ける設計ですが、prefixキャッシュの選定数や再計算・ゲートの計算コスト、ハイパーパラメータ感度の詳細は本文から確認できません。塑性-安定性の理論的保証も示されていません。
解説
ねえ智也くん、この「LifelongVLA」ってタイトルだけでワクワクするんだけど、何がすごいの？
ざっくり言うと、ロボット用のVLAモデルに生涯学習を入れる話。普通のVLAは固定データで一度学習して終わりだけど、実世界では新しい物体や指示が次々出てくる。でも新タスクを順番に学ぶと、前のスキルを忘れる破滅的忘却が起きる。
過去データを全部覚えておいて復習すればいいんじゃないの？
それが画像付きの軌跡を全部保存して何度も再エンコードすると、記憶も計算も重い。だからこの論文は、凍結したVLA基盤に短期LoRAと長期LoRAを置く。短期は新タスクを素早く学ぶ可塑性、長期はリプレイと蒸留で古いスキルを安定して保持する役割。
LoRAが2本あるだけだと、どっちをどれくらい使うか迷わない？
そこをタスク対応ゲートで重みレベルに合成する。しかもゲートの入力は凍結済みのprefix特徴から作るから、制御対象の重みに依存しない。合成後の推論は1回のフォワードパスで済む。
リプレイはどう軽くしてるの？
全軌跡じゃなくて、各スキルから少量のstop-gradient prefixトークンと、状態・行動の監督だけをキャッシュする。リプレイ時は拡散変数を毎回サンプリングし直して、現在のモデルでsuffixを再計算する。だから小さいキャッシュでも多様な保持信号を作れる。
評価はどれくらい良くなったの？
論文のTable 1だと、10タスク系列で平均成功率83.2%。比較ではERが70.2%、Info-VLAとAtomicVLAが28.6%、SFTとLwF-LoRAが7.8%。Jointは全タスク同時学習の上限で89.6%だけど、ランキングからは除外されてる。
83.2%はけっこう強いね。意味としては、可塑性と安定性のトレードオフを明示的に触れるようにしたことと、リプレイの保存コストを下げたことって感じ？
そう。ただ評価は10タスク系列とxArm実機に限定されてる。他のロボット、別のVLAバックボーン、より長いタスク列、タスク順序の影響は提示本文からは確認できない。prefixキャッシュ数や再計算・ゲートの計算コスト、ハイパーパラメータ感度の詳細も不明。塑性-安定性の理論保証も示されてない。
じゃあ私の『昨日の記憶を今日のやる気に変換するLoRA』も作れる？
まず昨日の課題を思い出してからにしろ。