解説ねえ智也くん、この「Cod…
TL;DR
Deep Interactionは、LLMのChain-of-Thought推論中の誤りを、ユーザーが直接編集して修正する手法です。従来の対話型修正と違い、正しい推論ステップを保持したまま誤り部分だけを書き換え、編集内容を蒸留したプロンプトでモデルを再誘導します。STEMタスクで修正成功率25%向上、トークン使用量40%削減を達成。
解説
ねえ智也くん、この「Deep Interaction」って論文、タイトルだけ見るとすごく難しそうなんだけど、簡単に教えてくれない？
ああ、これはLLMの推論過程を人間が直接編集できるようにする手法だよ。Chain-of-Thoughtっていう、モデルが考えをステップごとに出力する方法の途中で、間違った部分だけをユーザーが書き換えられるんだ。
へー、つまりAIが考えてる途中で「そこ違うよ」って直せるってこと？普通のチャットみたいに「間違ってるよ」って言い直すのとは違うの？
そう。従来の方法だと、ユーザーが間違いを指摘してもモデルが最初から考え直したり、正しい部分まで変わっちゃうことが多かった。でもDeep Interactionでは、正しい推論ステップはそのまま残して、間違った部分だけを直接編集するんだ。
なるほど！それってどうやって実現してるの？編集した内容をモデルにどう伝えるの？
編集した内容を「蒸留」したプロンプトを作って、モデルを再誘導するんだ。具体的には、ユーザーが修正した推論ステップを短い指示にまとめて、モデルに「この方針で続けて」と伝える感じ。
蒸留って、なんかお酒みたいだね（笑）。で、効果はどうだったの？
STEMタスクで実験した結果、修正成功率が25%向上して、トークン使用量が40%削減されたんだ。つまり、少ないやり取りで正確に修正できるようになった。
すごい！でも、どんなタスクでもうまくいくの？限界とかあるんじゃない？
そうだね。この手法は推論ステップが明確なタスクには強いけど、創造的な文章生成とか、正解が一つじゃないタスクには適用が難しい。あと、ユーザーが推論のどこが間違ってるか理解してないと編集できないから、初心者にはハードルが高いかもしれない。
確かに、私が使うときはまず自分が勉強しないとダメそうだね…でも、AIの間違いを直接直せるって、なんか先生になった気分で楽しいかも！
その先生、たまに間違った編集をしてモデルを混乱させそうだな。