11月 03 2026 0 決定モデルの推論を高速化するFlide：木構造を分離し厳密に分岐 投稿者: 亜美と智也のAI論文解説 編集部 Flideは、決定モデルへの問い合わせを「共有状態＋複数質問」の木として扱い、GPU上では1本のフラットなトークン列として実行する推論エンジンです。
10月 28 2026 0 量子化LLMの誤差補償をCPUへ、HCInferの非同期推論システム 投稿者: 亜美と智也のAI論文解説 編集部 HCInferは、量子化LLMの残差補償をCPUへオフロードし、GPUの圧縮バックボーンと非同期実行する推論システムです。
10月 27 2026 0 生成推薦の候補探索を軽量デコーダへ分離し推論を高速化するDeco 投稿者: 亜美と智也のAI論文解説 編集部 Decoは、SIDベース生成推薦で「履歴の理解」と「SIDの綴り」を分離する手法です。重いバックボーンが履歴を一度読んで次アイテム概念を作り、トライ制約付きビーム探索を軽量デコーダに任せます。
7月 22 2026 0 エッジデバイスでLLMを動かす：SelectInferによる選択的ニューロン読み込みと計算 投稿者: ユウ TL;DR SelectInferは、LLMのニューロンに「タスク固有…