タグ: 推測実行

解説 ねえ智也くん、この論文のタイトル「大規模言語モデルにおける推測実行の調査」って何のこと？ ああ、これは大規模言語モデルの推論効率を向上させるための研究だよ。具体的には、トークンを逐次的に生成する代わりに、推測実行と…