要点テキストから画像を生成する…
解説
智也くん、見て見て！この『Green AI』っていう論文のタイトル、なんかエコな感じで素敵じゃない？AIで森でも作るのかな？
いや、木を植える話じゃないよ。これはLLMを動かす時の消費電力をどうやって減らすかっていう、IT業界の切実な問題についての研究だ。
えっ、AIってお腹空くの？あ、電気を食べるってことか！でも、そんなにすごいの？
すごいよ。ChatGPTみたいなLLMの推論にかかる電力は、1ヶ月分だけで学習にかかった電力を超えることもあるんだ。この論文では、その推論を『プリフィル』と『デコーディング』っていう2つの段階に分けて分析してるんだよ。
ぷりふぃる？ デコーディング？ なんだか難しそうな呪文が出てきた……。
簡単に言うと、プリフィルは「質問文を読み込んで準備する段階」、デコーディングは「実際に答えの文字を1つずつ作っていく段階」のことだ。プリフィルは一気に計算するから効率がいいけど、デコーディングは1文字ずつだから時間がかかるしメモリも使うんだ。
なるほど！準備運動と、本番のダンスみたいなものだね！
……まあ、例えとしては悪くないかな。面白いのは、準備運動（プリフィル）で手間取ると、その後のダンス（デコーディング）の1歩あたりの疲れやすさ、つまり消費電力まで増えちゃうってことがわかった点だね。
えー！準備で疲れちゃって、本番がもっと大変になるなんて、私みたいで親近感わいちゃう！
君と一緒にするなよ。あと、この論文で一番衝撃的なのは『バブリング』っていう現象だ。AIが答えを出し終わった後も、無駄にダラダラ喋り続けちゃうことがあるんだよ。
バブリング？ 赤ちゃんがバブバブ言ってるみたいで可愛い名前だね！
全然可愛くない。その無駄口のせいで電力をドバドバ無駄遣いしてるんだから。研究チームがこの無駄口を強制的に止める仕組みを作ったら、なんと最大で89%もエネルギーを節約できたらしい。
89%！？ ほぼ9割じゃん！ お小遣いが9割カットされたら生きていけないよ……。
節約の話をしてるんだよ。これからは、ただ賢いだけじゃなくて、こういう無駄を省いた『地球に優しいAI』が求められるようになるだろうね。ソフトウェア開発の現場でも、どのモデルが一番エコかを考えるのが当たり前になるかもしれない。
すごいね！じゃあ、私も明日から無駄口を減らして、地球に優しい『Green 亜美』を目指そうかな！
……その前に、その天然な発言を減らす方が先だと思うけどな。
要点
- LLMの推論プロセスを、入力を処理する「プリフィル（Prefill）」と、逐次的に出力を生成する「デコーディング（Decoding）」の2つのフェーズに分けてエネルギー消費を詳細に分析した。
- プリフィルフェーズでの計算コストが増加すると、その後のデコーディングフェーズにおける1トークンあたりのエネルギー消費も増幅される（1.3%〜51.8%）ことが判明した。
- 一部のモデルには、タスク完了後も無駄な内容を出力し続ける「バブリング（Babbling）」現象が見られ、これがエネルギーの大きな浪費につながっている。
- バブリングを抑制する手法を導入することで、生成の精度を維持したまま、エネルギー消費を44%から最大89%削減できることを示した。
- 持続可能なソフトウェア開発（Green AI）のためには、モデルの精度だけでなく、推論フェーズごとのエネルギー効率を考慮した設計や最適化が不可欠である。