招商银行
基于 Kubernetes 与 HAMi 构建统一的异构 AI 算力调度平台，实现拓扑感知调度与加速器细粒度共享。
拓扑感知调度下硬件资源池利用率达 100%
- 通过超节点模块感知的成对分配，硬件资源池利用率达 100%。
- 分布式训练的跨机调度下降 30%。
- 细粒度切分最小至单卡 1 GB 显存 / 1% 算力。
案例研究
来自 CNCF 生态的真实落地案例。每篇案例展示了组织如何借助 HAMi 提升 GPU 利用率并扩展 AI 基础设施。
SNOW
通过 HAMi GPU 共享和 KEDA 自动伸缩，编排 1000+ A100 GPU 为全球 2 亿用户提供 GenAI 服务。
借助 HAMi GPU 共享减少 50% GPU 需求，从容应对 700% 流量洪峰
- 通过 HAMi GPU 共享，训练与推理流水线所需 GPU 减少一半。
- 相比等量按需云 GPU，预估节省成本 1740 万美元。
- MTTR 降低 91%（约 2 小时缩短至约 10 分钟）；GPU 涌流错误减少 85%。
蔚来汽车
基于 HAMi 的 GPU 虚拟化，提升自动驾驶工作负载的 GPU 利用率。
CI 流水线 GPU 利用率提升 10 倍
- 仿真工作负载 GPU 时间减少 30%。
- 采用混合 GPU 共享策略，结合 HAMi、MIG 和时间切片。
贝壳
基于 Kubernetes 和 HAMi 的 GPU 虚拟化，支撑机器学习基础设施规模化。
平台 GPU 利用率提升 3 倍
- 在混合负载下提升集群整体 GPU 资源效率。
- 通过更可预测的调度能力，加速 AI 功能上线。
道客网络
基于 HAMi 构建灵活 GPU 云，提升利用率并加快交付速度。
采用 vGPU 后，平均 GPU 利用率超过 80%
- GPU 运营成本降低约 50%。
- 典型环境交付时间由约 1 天缩短至约 20 分钟。
顺丰科技
基于 HAMi 构建异构 AI 虚拟化资源池方案（Effective GPU）。
生产与测试集群最高节省 57% GPU 成本
- 在生产与非生产环境中降低 GPU 闲置浪费。
- 通过异构加速器统一资源池，提升整体利用率。
PREP EDU
在教育场景 AI 推理业务中，借助 HAMi 优化资源编排。
90% GPU 基础设施通过 HAMi 得到优化
- 多数 GPU 基础设施通过 HAMi 实现标准化与优化。
- 增强了推理型高并发流量下的稳定性与效率。
