通信事業者の広域網でSLO駆動LLM推論を支えるInferSlice設計

投稿者: 亜美と智也のAI論文解説 編集部

InferSliceは、通信事業者の地理分散GPUとネットワークを共有基盤にし、アプリのSLOに応じてLLM推論の配置・構成・スライスを選ぶ参照アーキテクチャです。JOINER WAN上では、SLO階層ごとに遅延・スループット特性が分かれ、重みストリーミングがスケールアウト時間を短縮しました。

softmaxと交差エントロピーの数値バグを直し学習の不安定化を防ぐ

投稿者: 亜美と智也のAI論文解説 編集部

標準のsoftmax/log-softmax/交差エントロピーには2つの数値バグがある。提案実装は最大値やターゲットを和から除外し、蒸留時はq-pをログ空間で直接計算する。これによりSlingshotを消し、重み減衰ありのgrokkingを速め、重み減衰なしの精度崩壊と蒸留時のドリフトを防ぐ。

医療画像VLMの計測精度を高める連続値予測と拡散のハイブリッド手法

投稿者: 亜美と智也のAI論文解説 編集部

医療用VLMでは距離や径などの連続値をトークン列として出すため、数値の近さや座標との整合が保ちにくい。HAD-VLMは自己回帰のテキスト生成と拡散による連続5値(始点・終点座標と長さ)予測を同一バックボーンに統合し、座標-長さ整合とアンサンブル後処理で計測を補正する。

LLMエージェント間の潜在通信を改善するJ-COMM:幾何合意と二経路メッセージ

投稿者: 亜美と智也のAI論文解説 編集部

J-COMMは、LLMエージェント間でテキストではなく潜在表現を渡す通信フレームワークです。送信側はGEARで候補トークン埋め込みを埋め込み空間の幾何的合意により再重み付けし、消費した分布(H)と中間状態のヤコビアン読み出し(J)を受信側へ送ります。

追加学習なしで投影マッピングの外観編集をシーン応答マップで導くSREdit

投稿者: 亜美と智也のAI論文解説 編集部

SREditは、投影マッピング向けの外観編集で、再構成シーンから作る「シーン応答マップ」を使って画像編集器の初期サンプリングを制御します。物体との位置ずれを保ちながら、投影光が効きやすい領域は大きく、効きにくい領域は控えめに編集し、その後の投影補償は従来どおり別工程で行います。