10月 26 2026 0 LLM強化学習のBF16不安定化を抑える選択的丸め位置合わせ 投稿者: 亜美と智也のAI論文解説 編集部 推論と学習で別実装を使うBF16のLLM強化学習では、同じ重みでも中間値の丸め位置が違うと学習が不安定化する。学習側のRoPE・SwiGLU・残差RMSNormだけを推論側の丸め位置に合わせると、検討したQwen系4モデルで既定BF16の崩壊を防ぎ、RoPEのみでも安定した。
8月 18 2026 0 AI-RANハンドオーバー時のLLM推論を止めないKVキャッシュ先行移行フレームワーク 投稿者: ユウ TL;DR Pallasは、AI-RAN環境でユーザーが基地局間を移動…
8月 15 2026 0 LLM推論サービスの価格とデフォルト設定の最適化：Stackelbergゲームによる分析 投稿者: ユウ TL;DR LLM推論サービスにおいて、プロバイダがトークン単価とデフ…
8月 10 2026 0 エッジLLM推論の新フレームワークBALANCE：ADとSDを同時実行して収容ユーザー数を最大化 投稿者: ユウ TL;DR エッジサーバーでLLMを動かす際、逐次生成（AD）はメモリ…