数学の証明もAIが採点！？論理のミスを見抜く「Proof-RM」の凄さ

いや、正確には「証明が正しいかどうかを判定するAI」についての研究だよ。亜美さんは、数学のテストで答えは合ってるのに、途中の式がめちゃくちゃでバツにされたことない？

今のAIもそれと同じ問題を抱えてるんだ。答えの数字だけを当てるのは得意だけど、論理的な証明プロセスをちゃんと評価するのは難しい。この論文は、その「証明のプロセス」を正しく評価するための『報酬モデル（RM）』を作ろうとしているんだよ。

まあ、例えとしては近いかな。AIが学習するときに「今の証明は正解だよ」とか「ここは論理が飛んでるよ」って教えてあげる審判みたいな役割だね。特にオリンピックレベルの難しい数学だと、人間が採点するのも大変だから、これを自動化したいんだ。

そこがこの論文のすごいところでね。まず、大量の「問い・証明・判定」のセット、通称QPCデータを作るパイプラインを構築したんだ。既存のLLMを使って、わざと間違った証明や、言葉遣いが違う証明をたくさん作らせるんだよ。

いや、学習のためだよ。正しい証明だけじゃなくて、どこで間違えやすいかを教えないと、優秀な審判にはなれないからね。しかも、人間が全部チェックするんじゃなくて、複数のAIに判定させて、意見が一致したものだけを使うことで効率化してるんだ。

強化学習を使うんだけど、ただ学習させるだけだとAIが「変な言葉を繰り返す」みたいな暴走をすることがあるんだ。それを防ぐために、トークンの重みを調整したり、思考のプロセス自体にも報酬を与えたりする工夫をしてるんだよ。

そうだね。それだけじゃなくて、AIが自分で数学の新しい定理を発見するのを助けたり、より高度な推論ができるAIを育てるための「先生」役になったりすることが期待されてるよ。

まだ課題はあるよ。非常に複雑な論理構造だと判定をミスすることもあるし、完全に人間レベルの数学的直感を持っているわけじゃない。これからは、もっと複雑な証明や、形式言語を使った厳密な検証との組み合わせが研究されていくはずだね。

それは判定するまでもなく『False（偽）』で即答されると思うよ。