……そんなわけないだろ。これはリポジトリ、つまりプロジェクト全体の膨大なコードの中から、今書いているコードに本当に必要な情報を探し出す技術の話だ。

それが難しいんだ。今のAIは今開いているファイルの中身はわかるけど、別のファイルにある独自の関数やルールを見つけるのが苦手なんだよ。これまではRAGっていう検索技術を使ってたけど、2つの大きな問題があったんだ。

1つは『探し方が下手』なこと。書きかけのコードだけを検索ワードにしても、本当に必要なコードに含まれるキーワードが入っていないことが多いんだ。これを『クエリとターゲットの不一致』と呼ぶ。もう1つは、検索エンジン自体がコードの文脈を理解して学習していないことだ。

まあ、例えとしては悪くないな。そこでAlignCoderは、まずAIに『続きのコードをいくつか予想』させるんだ。その予想図を検索ワードに混ぜることで、検索のヒントを増やす『クエリ拡張』を行うんだよ。

強化学習を使うんだ。検索エンジンが持ってきたコードを使ってAIが正解を書けたとき、その検索エンジンに『報酬』を与える。具体的には『パープレキシティ（PPL）』っていう、AIの納得感を示す数値を使って、納得感が高いほど良い検索だったと判断して学習させるんだ。

将来性は高いな。ただ、課題もある。何度もコードを生成するから計算に時間がかかるし、生成しすぎると逆にノイズが増えて精度が落ちることもあるんだ。最適な生成回数を見極める必要があるな。

エモいかどうかは別として、内容はすごく実用的だよ。これは「リポジトリレベルのコード生成」に関する研究なんだ。

そう。普通のAIは一つの関数を作るのは得意だけど、プロジェクト全体を見渡して、他のファイルにある関数やクラスとの整合性を取るのは苦手なんだ。既存のやり方だと、似たようなコードを検索してくるだけだから、細かい使い勝手がズレちゃうことが多いんだよね。

……例えは微妙だけど、まあそんな感じかな。この論文の「InlineCoder」は、そのズレをなくすために、関数が「どう使われるか」と「何を使うか」をAIにしっかり教える手法を提案しているんだ。

全部は無理だから、賢く絞り込むんだ。まず、作りたい関数の「ドラフト（下書き）」をサッと作る。次に、そのドラフトを「呼び出し元」のコードの中に直接埋め込むんだ。これを『上流インライニング』と呼んでいるよ。

あくまでAIに見せるヒントとしてだよ。そうすることで、AIは「あ、この関数はこういう引数で呼ばれて、戻り値はこう使われるんだな」っていう具体的な状況を理解できる。さらに、ドラフトの中で使っている他の関数、つまり「下流」の情報も集めてくるんだ。

鋭いね。そこでは「パープレキシティ」っていう指標を使って、AIが自分の書いたドラフトにどれくらい自信があるかを評価するんだ。自信がない部分は、より慎重に文脈を補強して最終的なコードを作る仕組みになっているよ。

圧倒的だよ。RepoExecっていうテスト用データセットでは、既存の最強の手法と比べて、コードの正確さを表すBLEUスコアが約49%も向上したんだ。他の指標でも20%から30%くらい良くなっている。

……まあ、設計図さえしっかりしていれば、細かい実装のミスは劇的に減るだろうね。将来的には、人間が細かいライブラリの仕様を覚えなくても、プロジェクトの意図を汲み取ってAIが勝手に整合性を取ってくれるようになるはずだ。

課題としては、巨大すぎるプロジェクトだと呼び出し関係を解析するのに時間がかかることかな。あとは、ドラフトが最初から完全に的外れだと、インライニングの効果も薄れてしまう。今後はもっと複雑な依存関係をどう効率的に扱うかが研究の方向性になると思うよ。