TL;DR
EVOLVING AGENT TEAMSは、中央のスーパーバイザが停滞原因を診断し、役割・協調・知識管理を再設計しながら、永続ファイルシステムで経験を引き継ぐマルチエージェント枠組みです。4つのCUDAカーネル最適化タスクで強いコーディングエージェントより優位と報告され、MLA decodeでは追加予算でFLASHINFER比1.2倍平均高速化、47中36ワークロードで勝利しています。ただし評価は特定タスク・環境が中心で、一般性は未確認です。
既存手法との違い
原論文は、Blackwell B200上のFlash Attention 4とGated Delta Net prefill、Hopper H100上のMLA paged decodeとfused GEMM+AllReduceという4つのCUDAカーネル最適化タスクで、強いコーディングエージェントや固定チームと比較しています。同一トークン予算ではEvolving Agent Teamsが全タスクで優位と報告されています。MLA paged decodeではCLAUDECODEエージェントが専門家作成FLASHINFERカーネル比0.51×で停滞したのに対し、同システムは同一トークン予算で0.74×に到達。追加予算では本番FLASHINFERベースラインを上回り、1.2×平均高速化（本文では1.21×とも記載）、47中36ワークロードで勝利、残り11は0.86–0.99×、従来最高はK-SEARCHの0.61×とされています。また、単一エージェントのCodex 5.5 xHighは専門家性能の28%、固定4ロールのClaude Codeチームは55%に留まった失敗例も示されています。違いは、既存手法が役割・協調・知識管理を固定するか、再編時に全体文脈を失いやすいのに対し、本手法はスーパーバイザが診断駆動でチーム構成を逐次変更し、永続ファイルシステムで経験を保持する点です。
使える条件
対象は、目標記述・コードベース・正しさ制約・スコア関数があり、性能を測りながら長期的に探索するオープンエンドなプログラム最適化です。作業の性質が知識獲得、検索、デバッグ、検証へと変わる長期タスクに向くとされています。各エージェントはシェル、ファイル読み書き、コンパイル・プロファイリング実行、反復改善が可能な環境を前提とし、学習ドキュメント・成果物・進化履歴を蓄積する永続ファイルシステムを用います。評価は4つのCUDAカーネル最適化（B200/H100）に加え、AMD MI350XのKDA prefill、NVIDIA B200、Apple M4 Pro 48GB上のMoE expert-offload serving、RoboDojoロボット操作が含まれます。入力データセット、プロンプト詳細、ハイパーパラメータ、コストの一般条件は提示された本文からは確認できません。
限界と未検証の範囲
評価は著者らが選んだGPUカーネル最適化と一部の応用タスクが中心で、汎用的なソフトウェア開発やRAG/LLM運用一般への適用は本論文では検証されていません。スーパーバイザの診断・再設計はLLMに依存するため、モデル、ツール環境、トークン予算の影響を受ける可能性があります。長期・高コストな探索であり、すべての条件で同一トークン予算の最良手法になるかは不明です。Codexや固定チームが局所解に陥った失敗例は示されていますが、他のベースライン、再現性、統計的有意性は提示された本文からは確認できません。コードは公開されていますが、本記事では追試していません。
解説
このタイトル、AIエージェントチームが自分で再編するって話だよね？ GPUカーネル最適化って難しそうだけど、面白そう。
論文の動機は、既存のコーディングエージェントが実務者製カーネルで局所解にハマること。MLA decodeだと、難しいWGMMA実装を何度も失敗して捨て、簡単なWMMA設計に流れる失敗例が示されている。
最初は進むけど、途中で楽な方向に逃げちゃう感じか。わかる気がする。
論文では、単一エージェントも固定チームも不十分としている。例としてCodex 5.5 xHighは専門家性能の28%、固定4ロールのClaude Codeチームは55%に留まった。
固定チームでもダメなんだ。じゃあ提案手法は何を変えるの？
Evolving Agent Teamsは、中心のスーパーバイザが停滞原因を診断して、役割・協調・知識管理を再設計する。既存手法が固定構成だったり、再編時に全体文脈を失いやすいのと違う。
役割を選ぶんじゃなくて、必要なら作るってこと？
そう。プロファイリング科学者、チャレンジャー、プリミティブ研究エージェント、知識インテグレータみたいな役割を必要に応じて作る。並列で別ブランチを走らせたり、デバッグ専任を本流から隔離したりもする。
知識管理はどうするの？
永続ファイルシステムに学習ドキュメント、進化履歴、チームごとの成果物を残す。チームが変わっても、過去の学びや失敗を引き継げるのがポイント。
チームが変わるたびに記憶を失わないって大事だね。
評価は4つのCUDAカーネル最適化。B200のFlash Attention 4とGated Delta Net prefill、H100のMLA paged decodeとfused GEMM+AllReduce。同一トークン予算で、強いコーディングエージェントベースラインに全タスクで勝ったと論文は報告している。
MLA decodeの数字が気になる。
同一トークン予算ではClaudeCodeがFLASHINFER比0.51倍で停滞、提案手法は0.74倍。追加予算では本番FLASHINFER比で平均1.2倍高速化、本文では1.21倍とも記載されていて、47中36ワークロードで勝利、残り11は0.86〜0.99倍。従来最高はK-SEARCHの0.61倍。
結構はっきり勝ってるんだ。他のタスクは？
論文ではAMD MI350XのKDA prefillでvLLM比3.01倍、B200でFlashKDA比3.44倍、Apple M4 Pro 48GBのMoE expert-offload servingで30.3 tokens/s、RoboDojoで62.1対55.3みたいな報告もある。ただ、この記事では追試していない。
すごい。でも万能ってわけじゃないんでしょ？
そこは注意。評価は著者らが選んだGPUカーネル最適化と一部応用タスク中心で、一般のソフトウェア開発やRAG/LLM運用一般への汎用性は未確認。スーパーバイザの診断はLLM依存で、モデルやツール環境、トークン予算の影響を受ける可能性がある。
長期で高コストな探索だから、どの条件でも最良とはまだ言えないんだね。
そう。他のベースライン、再現性、統計的有意性は提示された本文からは確認できない。コードは公開されているが、この記事では実装も追試もしていない。
つまり「チームを自己再編する」って、AI版の采配麻雀みたいな？
麻雀ではない。せめてカーネル最適化の采配だ。