1 篇文档带有标签[vllm]

在已有 GPU 集群上安装 HAMi，并用 GPU 切分能力调度 vLLM 推理服务。