SmartBatchLLM: An efficient adaptive hybrid batching strategy for large language model serving

Siyuan Sun, Zhaojia Wang, Hanshuo Liu, Jiehan Zhou
Parallel Computing · Elsevier · 2026-12-01 · DOI: 10.1016/j.parco.2026.103216

Аннотация у издателя не опубликована — полный текст доступен по ссылке ниже.

Читать у издателя →

Похожие статьи