LLM事後学習の停滞を防ぐカバレッジ保持アルゴリズム理論

投稿者: 亜美と智也のAI論文解説 編集部

本論文は、LLM事後学習の政策最適化で、ベースモデルが最適応答を出しやすい性質(応答カバレッジ)が学習中に崩壊し得ることを理論的に示す。固定参照へのKL正則化だけでは不十分な場合があり、KL参照を最新政策へ繰り返しリセットするAPMDがカバレッジを保ちながら大域最適へ収束する枠組みを与える。

LLMの学習を支える4つの思考機構と失敗要因を整理する認知フレームワーク

投稿者: 亜美と智也のAI論文解説 編集部

本論文は、LLMの「考えて学ぶ」能力を、反射的推論・合成記憶形成・内部シミュレーション・概念自己組織化の4機構に整理し、CoTや自己反省などの手法を機能近似として対応づける。新実験はなく、幻覚拡散やモデル崩壊などは人間認知との4つの構造的非対称性から説明される。

LLM特徴量発見で挑むタンパク質-リガンド姿勢ランキングPyrite

投稿者: 亜美と智也のAI論文解説 編集部

Pyriteは、タンパク質-リガンドの候補ポーズをペアで比較する姿勢ランキング用ベンチマークです。専門家化学者や物理スコア単体は高精度ではなく、LLMが直接推論するPyriteReasonerは最大67%、LLMが特徴量を発見してロジスティック回帰に渡すPyriteFeaturizerは最大74%…

物理AIの安全理解を測るASIMOV-2.0と安全推論の学習

投稿者: 亜美と智也のAI論文解説 編集部

本論文は、身体を持つAIが物理的危険を理解し介入できるかを評価するASIMOV-2.0を提案する。実世界の傷害報告と安全制約からテキスト・画像・動画のベンチマークを生成し、主要基盤モデルを比較。行動・画像・動画ではテキストより弱く、制約違反が残ることを示す。

海底画像の階層マルチラベル分類をVLM概念で補助するGHiML

投稿者: 亜美と智也のAI論文解説 編集部

GHiMLは、VLMからドメイン関連の概念候補を抽出し、各サンプル向けキャプションを生成、そのテキスト埋め込みを画像埋め込みとクロスアテンションおよびノード別ゲートで融合する階層マルチラベル分類パイプラインです。VLMの微調整や生成画像の合成は不要としています。