タグ: 事前学習

基盤モデルの事前学習・中間学習・SFT・RLを、データの混合比率を変える単一の最尤学習として扱う枠組み。RLも成功例への尤度フィッティングと見なし、同一の重み付き損失と共有バッファで静的データと生成データを混ぜる。