ああ、Text-to-SQLのタスクで、LLMエージェントがSQLクエリを生成して、間違ったら修正するんだけど、その修正の経験を記憶して、次に同じ失敗をしないようにするんだ。

オラクル検証済みの修正を正例として、失敗した方向を負例として保存するんだ。そして、失敗タイプに基づいて検索して、似た状況でその記憶を利用する。

LLMは同じ間違いを繰り返すことがあるからね。特に複雑なSQLクエリだと、同じようなミスをしやすい。記憶を使ってそれを防ぐのが目的だよ。

Spiderデータセットで66.34%から69.79%に、BIRDで47.35%から48.44%に精度が上がった。

BIRDはデータベースが多様で複雑だから、記憶がうまく汎化しないのかもしれない。あと、失敗タイプの分類が難しいというのもある。

LLMエージェントに記憶を持たせるという方向性を示したことかな。特に、正例と負例を分けて保存するというアイデアは新しい。

でも、君は毎回同じミスしてるじゃん。

その前に、まずは記憶する気持ちを持とうね。

簡単に言うと、エージェントが外部メモリにアクセスするタイミングや検索量を、タスクの状況に応じて動的に変える仕組みだよ。従来は固定のルールだったけど、それを学習可能にしたんだ。

毎回全部検索するとトークン数が増えてコストがかかるし、ノイズも増える。MEMCONは軽量な学習層で、追加のLLM呼び出しなしに、数十タスクでオンライン方策を収束させるんだ。

6つのベンチマークで成功率が最大15.2ポイント向上して、トークン数も5～20%削減できたって。特にメモリが大きいタスクで効果が顕著だったみたい。

うん、マルチホップQAや対話システム、Webナビゲーションなど、外部メモリを使うタスク全般に適用できる。既存のメモリ実装をラップするだけだから、導入も簡単だよ。

確かに数十タスクは必要だけど、他の手法よりは少ない方。メモリ状態は、検索結果の一貫性やエントロピーなど、シンプルな特徴量で表現してる。ただ、メモリの内容自体は直接見てないから、複雑な依存関係には弱いかもしれない。

それは学習じゃなくて充電でなんとかしてくれ。

ああ、それはAIエージェントの「メモリ」、つまり記憶の管理方法を革新する研究だよ。簡単に言うと、AIが自分で「どうやって物事を覚えるか」という技術を学習して進化させる仕組みなんだ。

鋭いね。今までのAIは、人間が「こういう時は情報を追加して、こういう時は消して」ってあらかじめ決めたルールに従ってたんだ。でも、それだと会話が長くなったり複雑になったりすると、柔軟に対応できなくてパンクしちゃうんだよ。

MemSkillは、メモリ操作を「スキル」として扱うんだ。まず「スキルバンク」っていうスキルの貯蔵庫があって、そこから今の状況に最適なスキルを選んで使う。さらに、そのスキル自体をAIが自分で作り変えたり、新しく生み出したりするんだよ。

主に3つの役割があるんだ。まず「コントローラー」。これは今の会話の流れを見て、どのスキルを使うのがベストか選ぶ司令塔だね。次に「エグゼキューター」。選ばれたスキルを使って、実際にメモリを書き換える実行役だよ。

「デザイナー」だ。これが一番重要で、AIがうまく思い出せなかった難しいケースを分析して、「もっとこういうスキルが必要だ」って新しいスキルを設計したり、古いスキルを修正したりするんだ。これでシステム全体が自己進化していくわけだね。

実験結果では、LoCoMoやHotpotQAっていう複雑な推論が必要なテストで、従来の固定的な方法よりも高いスコアを出しているよ。特に、長い会話の履歴から必要な情報を引っ張り出す能力が大幅に上がっているんだ。

将来的には、ユーザー一人ひとりの好みに合わせてメモリの取り方を変える「超パーソナライズされた秘書AI」ができるかもしれない。ただ、まだ課題もあって、スキルの進化に時間がかかったり、複雑なスキルが増えすぎると管理が大変になったりする可能性もあるんだ。

ああ、それね。最新の検索型AIの研究だよ。簡単に言うと、AIがもっと賢く、効率的に調べ物をして答えを出せるようにする仕組みのことだね。

最新のニュースや専門的な知識は、AIも外部のデータベースを検索して持ってくる必要があるんだ。でも、今のAIは「調べ方の手順」が下手なんだよ。例えば、「Aさんの誕生日に発売された雑誌の付録は何？」って聞かれたとき、まずAさんの誕生日を調べて、次にその日の雑誌を調べて……っていう順番がバラバラになっちゃうことがあるんだ。

そう、まさにそれ。その「どっちを先にやるべきか」っていうのが『依存関係』だね。この論文では、質問を分解して、どの順番で解くべきかをグラフ構造で整理するんだ。これを『QDMRベースの分解』って呼んでいるよ。

そうなんだ。これまでのAIは、一度調べた内容を推論の途中で忘れちゃったり、何度も同じことを検索し直したりして、無駄が多かった。Dep-Searchでは、調べた内容を要約して「メモリ」に書き込んで、後でいつでも取り出せるようにしたんだ。LRUっていう、古い情報から捨てていく効率的な管理ルールも使っているよ。

そこがこの論文の肝だね。GRPOっていう強化学習を使っているんだ。これは、AIに何度も調べ物の練習をさせて、正解にたどり着いたときの「調べ方の手順」を褒めて伸ばす手法だよ。特定のトークン、例えば『』が出たら検索する、みたいに動作をルール化して、その出し方を学習させているんだ。

実験では、複雑な質問に答える7つのテストで、他の最新モデルよりもずっと高いスコアを出したよ。特に、何度も検索が必要な難しい問題で強さを発揮しているんだ。無駄な検索も減って、効率も良くなっているしね。

膨大な資料から答えを探す専門的な調査や、複雑なタスクをこなすAIエージェントへの応用が期待されているよ。ただ、まだ課題もあって、メモリの容量制限とか、非常に長い推論になるとコストがかさむ可能性もある。これからは、もっと長期的な記憶をどう扱うかが研究の焦点になるだろうね。