LLM事後学習の停滞を防ぐカバレッジ保持アルゴリズム理論

投稿者: 亜美と智也のAI論文解説 編集部

本論文は、LLM事後学習の政策最適化で、ベースモデルが最適応答を出しやすい性質(応答カバレッジ)が学習中に崩壊し得ることを理論的に示す。固定参照へのKL正則化だけでは不十分な場合があり、KL参照を最新政策へ繰り返しリセットするAPMDがカバレッジを保ちながら大域最適へ収束する枠組みを与える。

LLMの学習を支える4つの思考機構と失敗要因を整理する認知フレームワーク

投稿者: 亜美と智也のAI論文解説 編集部

本論文は、LLMの「考えて学ぶ」能力を、反射的推論・合成記憶形成・内部シミュレーション・概念自己組織化の4機構に整理し、CoTや自己反省などの手法を機能近似として対応づける。新実験はなく、幻覚拡散やモデル崩壊などは人間認知との4つの構造的非対称性から説明される。

LLM特徴量発見で挑むタンパク質-リガンド姿勢ランキングPyrite

投稿者: 亜美と智也のAI論文解説 編集部

Pyriteは、タンパク質-リガンドの候補ポーズをペアで比較する姿勢ランキング用ベンチマークです。専門家化学者や物理スコア単体は高精度ではなく、LLMが直接推論するPyriteReasonerは最大67%、LLMが特徴量を発見してロジスティック回帰に渡すPyriteFeaturizerは最大74%…