タグ: トークン生成

解説 ねえ、トモヤくん！この「DYSPEC」っていう論文、面白そうだね！内容教えてくれる？ もちろん。DYSPECは、推測デコーディングを使って大規模言語モデルの推論を速くする方法なんだ。 推測デコーディングって何？ 推…