TL;DR

GEPA-Curatorは、LLMエージェントの反射型プロンプト最適化に「タスク選別」と「過去成功の検索」を足すハーネスです。ノイズの多い失敗を学習信号から外し、信頼できる成功軌跡をReflectorに渡します。GoBrowse/WebArena 4サイト、ALFWorld、AppWorld、τ-benchで、GEPA/ACEを平均で上回るか同等と報告(最大+20.7%対GEPA、+21.2%対ACE)。一方、評価範囲とコスト面は限定的です。

既存手法との違い

原論文はGEPAとACEを比較対象にしています。GEPA-CuratorはGEPAの簡易greedy版(Pareto候補選択を除く)を基盤に、タスク選別と過去成功検索を追加します。Gemini 3.1 Pro PreviewとClaude Opus 5をoptimizer、gpt-oss-120bをactorに使い、同一のseed prompt、評価器、action limits、環境設定で比較し、5回平均で評価しています。GoBrowse(WebArena環境のGitLab/Shopping/Shopping Admin/Reddit)、ALFWorld、AppWorld、τ-benchで、平均性能がベースライン以上、最大20.7%改善(対GEPA)、21.2%改善(対ACE)と報告されています。ベンチマークごとにロールアウト予算は異なります。全数値表や統計的有意性は提示本文からは確認できません。

使える条件

反射型プロンプト最適化を行うマルチターンLLMエージェントで、タスクごとの実行履歴(軌跡・評価結果)を保持でき、訓練・検証・テスト分割と評価器が用意できる環境が前提です。GEPA-Curatorは既存のプロンプト最適化器の外側で動くハーネスで、最適化器自体は変更せず、追加の入力メタデータとして選別済みタスクや成功軌跡を渡します。原論文の評価は、gpt-oss-120bをactor、Gemini 3.1 Pro PreviewまたはClaude Opus 5をoptimizerとし、GoBrowse/WebArena 4サイト、ALFWorld、AppWorld、τ-benchに限定されています。他のモデル、実サービス、計算資源・コスト、RAG固有の設定は提示本文からは確認できません。

限界と未検証の範囲

提示本文の範囲では、評価は特定のベンチマーク、2種類のoptimizerモデル、gpt-oss-120b actor、ベンチマークごとのロールアウト予算に限られ、他ドメインや実運用への一般化は未検証です。Curatorはタスク履歴と評価結果に依存するため、評価ノイズやハーネス・環境由来の失敗を完全には除けません。タスクのskipは一時的で再検討されますが、長期運用での影響は不明です。コスト、レイテンシ、大規模化時の挙動は報告されていません。また提示本文はUnder Review版で、全文の表・付録・統計詳細は確認できません。

解説

AMI HAPPY

ねえ智也、この「GEPA-Curator」って、エージェントの経験を選ぶって話? なんで選ぶ必要があるの?

TOMOYA NEUTRAL

うん。エージェントの失敗が、いつもプロンプトのせいとは限らないから。環境やハーネス、実行のブレ、審査役のノイズでも失敗する。

AMI SURPRISED

へえ。じゃあ失敗を全部反省材料にすると、逆に変な方向に直しちゃうかもってこと?

TOMOYA NEUTRAL

そう。GEPAみたいな反射型プロンプト最適化は失敗ロールアウトから学ぶけど、ノイズの多い失敗を学習信号にすると害になることがある。検証で弾くだけじゃ変異を作った後だし、集約スコアもブレる。

AMI NEUTRAL

なるほど。で、GEPA-Curatorは何を足したの?

TOMOYA NEUTRAL

大きいのは二つ。タスク選別と、過去成功の検索。タスクごとの履歴を見て、今走らせると良い信号が出そうなタスクをミニバッチに入れる。

AMI HAPPY

選別は、安定して成功しすぎたタスクや、環境のせいでずっと失敗するタスクを一時的にスキップする感じ?

TOMOYA NEUTRAL

そう。でも永久に捨てない。次のエポックでまた見る。プロンプト更新で解けてたタスクが崩れることもあるし、逆に難しいタスクが解けるようになることもある。

AMI SURPRISED

過去成功の検索は、失敗したタスクに対して「昔はこう成功した」をリフレクターに渡すの?

TOMOYA NEUTRAL

その通り。信頼できる成功軌跡を一つ選んで、失敗との対比で原因を考えやすくする。適切な成功がなければ渡さない。

AMI NEUTRAL

それってプロンプト最適化器そのものを改造するの?

TOMOYA NEUTRAL

いや、外側のハーネスとして動く。最適化器には追加の入力メタデータとして渡すだけで、本体は変えない。選別と検索は一つのキュレーター呼び出しで一緒にやるから、検索のための追加LLM呼び出しは要らない、と原論文は説明してる。

AMI HAPPY

評価はどうなの?

TOMOYA NEUTRAL

原論文ではGEPAとACEと比較。GEPA-Curatorはパレート選択を除いた簡易グリーディ版GEPAが基盤で、タスク選別と過去成功検索を足す。比較では同じseedプロンプト、評価器、アクション上限、環境設定を使って5回平均にしてる。

AMI NEUTRAL

モデルとベンチマークは?

TOMOYA NEUTRAL

アクターはgpt-oss-120b、最適化モデルはGemini 3.1 Pro PreviewとClaude Opus 5。GoBrowse/WebArenaのGitLab、Shopping、Shopping Admin、Reddit、ALFWorld、AppWorld、τ-benchで、平均でGEPA/ACE以上か同等。最大+20.7%対GEPA、+21.2%対ACEと報告してる。

AMI SURPRISED

結構いいじゃん。でも、どこまで信じていいの?

TOMOYA NEUTRAL

そこは注意。評価はそのベンチマーク群と2種類の最適化モデル、gpt-oss-120bアクター、ベンチマークごとのロールアウト予算に限定されてる。他のドメインや実サービスへの一般化は未検証。コストやレイテンシ、大規模化の挙動も提示本文からは確認できない。

AMI NEUTRAL

キュレーターも履歴と評価に依存するから、評価ノイズを完全には消せないんだね。

TOMOYA NEUTRAL

そう。あとタスクのスキップは一時的で再検討されるけど、長期運用の影響は不明。統計的有意性や全文の表・付録も提示本文からは確認できない。原論文の報告と、僕らの解釈は分けて読む必要がある。

AMI HAPPY

意義は、失敗を全部学ぶんじゃなくて「学ぶ価値のある経験」を選ぶ方向を作ったことかな。

TOMOYA NEUTRAL

そう捉えていいと思う。プロンプト最適化の学習信号の質を上げる、というのが主張の中心。

AMI HAPPY

じゃあ、私のテスト失敗も“ノイズ”としてスキップしてくれていいよ。単位取得だけは成功軌跡で頼むよ。

TOMOYA NEUTRAL

その成功軌跡、まだ存在しないだろ。