タグ: コンテキスト拡張

解説 ねえ智也くん、この論文のタイトル「Llama-3のコンテキストを一晩で十倍に拡張」ってすごくない？どうやってそんなことが可能なの？ 実は、これはLlama-3-8B-Instructというモデルのコンテキスト長を8…