标签：推理部署

文章

• Agent 学习第 9 周：vLLM 与「71 倍」到底快在哪

  用 vLLM 跑出 71 倍吞吐，再把它拆开：约 2 倍来自算子优化，30 多倍来自连续批处理调度。