英伟达宣布推出 KAI Scheduler 的开源版本,这是一种 Kubernetes-native GPU 调度解决方案,现已在 Apache 2.0 许可证下提供。
KAI Scheduler 最初在 Run:ai 平台中开发,现在可供社区使用,同时继续作为 NVIDIA Run:ai 平台的一部分打包和交付。
KAI Scheduler 工作流
KAI 调度程序的优势
管理 GPU 和 CPU 上的 AI 工作负载带来了传统资源调度器通常无法解决的一系列挑战。
调度程序专为解决以下问题而开发:
- 管理不断变化的 GPU 需求
- 减少计算访问的等待时间
- 资源保障或 GPU 分配
- 无缝连接 AI 工具和框架
更多内容查看公告。