新着の論文解説

3,177件

拡散モデルの複数サンプル同時生成で高スループットを狙うManiFusion

拡散モデルの推論を、複数サンプルを融合して共有バックボーンで処理し、分離して個別出力に戻す「1回のノイズ除去評価で複数サンプルを扱う」枠組み。U-Net・Transformer・潜在拡散に適用でき、TFSで融合数を時間方向に調整する。既存のステップ削減やキャッシュと併用できると報告。

解説を読む

音声対話AIの「話すタイミング」を強化学習で分けるDuplexPO

DuplexPOは、全二重音声対話モデルの「いつ話すか(ターン開始・バックチャネル・バージイン時の譲歩)」を「何を話すか」から分離し、人間対話から抽出した動的時間窓でFCDR報酬とGRPO型更新を行う。論文は、対話動力学を改善しつつ推論・指示追従を維持できると主張する。提示本文には数値結果はない。

解説を読む

ビット列拡散でテキスト生成するCoBit:語彙ロジット削減と確率的サンプリング

CoBitは各トークンを固定幅ビット列にし、ガウス破損を連続拡散で復元するテキスト生成モデルです。語彙全体ではなくビットごとのロジットを出し、解析的なマッチドフィルタ+残差と、エントロピー率グリッド上の確率的補正でGenPPLと多様性のトレードオフ改善を狙います。

解説を読む

学習がTransformerのトークンクラスタリングを終盤で逃がす平均場解析

ノイズ付き平均場Transformerで、L2正則化下のパラメータ線形FFNを学習すると、層方向のトークン分布が『初期クラスタリング→中間のプラトー→終盤の脱出』という3相を示し得ることを理論解析した研究。単一GD更新で終盤脱出の下界、目的関数の最小化で内部層の指数ターンパイク上界を与える。

解説を読む

LLMの推論過程を点検しQマトリクス構築を支援するRTA手法

RTAは、LLMに分数減算の各解法ステップへ属性ラベルを付けさせ、その推論トレースからQ行列を再構成して参照Q行列と照合する枠組みです。最終行列だけでなく各項目―属性割当の根拠を点検できますが、実験ではCoT由来Q行列は直接生成より参照との一致が低く、反復間の変動も大きい結果でした。

解説を読む