AIも「長く考えればいい」ってわけじゃない？賢さとコスパの限界点を探る！

ゲームの話じゃないよ。これはAIがどれだけ効率的に問題を解けるかっていう、性能とコストの限界線のことだね。最近のAIは『長く考える』ことで賢くなってるけど、その分お金も時間もかかるから、そのバランスを調べた論文なんだ。

まさにそう。この論文では、推論時の計算量を『FLOPs（フロップス）』っていう単位で測っているんだ。これはAIが答えを出すまでに行った計算の回数のことだね。ただ精度が高いだけじゃなくて、いかに少ない計算量で正解にたどり着くかが、実際のビジネスでは重要なんだよ。

まず、Mixture of Experts、略して『MoE』っていう構造のモデルがすごく優秀だったんだ。これは、問題に合わせて得意な専門家（エキスパート）の部分だけを動かす仕組みなんだけど、これが一番効率よくパレート境界を攻めていたんだよ。

いい例えだね。あと面白いのが、小さなモデルでも、じっくり時間をかけて考えさせれば、巨大なモデルと同じくらいの正解率を出せることもあるんだ。これを『思考計算の代替性』って呼んでいるよ。

理論上はね。でも、限界もあるんだ。論文では『飽和点』についても触れていて、ある程度以上長く考えても、それ以上は正解率が上がらなくなるポイントがあるんだよ。モデル自体の地頭の良さを超えることはできないってわけだ。

小学生レベルの算数から、大学レベルの科学の問題まで、19種類のオープンソースモデルでテストしたんだ。その結果、難しい問題ほど、飽和点に達するまでにより多くの計算量が必要になることもわかったよ。あと、AIは間違える時ほど、正解する時より長く悩んじゃう傾向があるらしい。

……まあ、効率は悪いけどね。この研究のすごいところは、将来のAIがどれくらい効率的になるかを予測する指標を作ったことなんだ。これを使えば、次にどんなモデルを作ればいいかの指針になる。

そうだね。ただ、推論コストをどう抑えるか、いつ考えるのをやめるべきか、っていう課題はまだ残っている。これからは、ただ賢いだけじゃなくて、引き際をわきまえたAIの研究が進むだろうね。

いや、試験時間が終わるだろ。それに、さっき言った『飽和点』を思い出せ。勉強して地頭を鍛えないと、いくら考えても無駄だぞ。