タグ: Vision-Language Model

SP2ECは、視覚言語モデル（VLM）の自己投機的デコードで、保持する層や視覚トークン数などのドラフト構成をプロンプトごとに適応選択する学習不要のバンディット手法です。受理トークン数と実時間をフィードバックに、単峰型のスループット構造を利用して壁時計時間の後悔を抑えます。