@techreport{oai:ipsj.ixsq.nii.ac.jp:02000810,
 author = {薄井,真之 and 高前田,伸也},
 issue = {4},
 month = {Feb},
 note = {投機的デコーディングを大規模言語モデルのサービング（デプロイメント）に適用するため、候補トークン数を動的に決定する方法と、リクエストを跨いでより見込みのあるトークンを（候補トークンとして）選択する方法を提案する。サービングシステム（サーバ）を実装することで評価を行い、提案手法がレイテンシを改善することを示す。},
 title = {大規模言語モデルのサービングにおける投機的デコーディングの動的最適化手法の提案},
 year = {2025}
}