2025年04月30日的文章

2025-04-30阅读(23)评论(0)赞(0)

Published in ASPLOS'25 by Microsoft https://dl.acm.org/doi/10.1145/3669940.3707256 为了保持 KV cache 的内存地址连续，vLLM 里面使用了 ...