深入理解 Reservation Pod
技术深度
【Run:ai KAI-Scheduler 深度解析】补充篇:解密 Reservation Pod 如何获知 GPU 分配细节
昨天深入探讨了 KAI-Scheduler 如何实现 GPU 分数共享,非常感谢大家的关注和热烈讨论!有读者指出了一个关键技术细节需要进一步澄清,今天我们就来专门解析这个问题。
来自我们团队的见解、教程和新闻
昨天深入探讨了 KAI-Scheduler 如何实现 GPU 分数共享,非常感谢大家的关注和热烈讨论!有读者指出了一个关键技术细节需要进一步澄清,今天我们就来专门解析这个问题。
今天,我们进行一次技术专题,对比 KAI-Scheduler 和 HAMi 的实现方式,并展望未来合作的可能性。
我会从这几个角度聊聊:HAMi 是什么,与 NVIDIA 的方案有何本质不同?NVIDIA 为何“不为”?是技术不能,还是商业不愿?HAMi 的核心竞争力与长期护城河到底在哪里?
我会从这几个角度聊聊:HAMi 是什么,与 NVIDIA 的方案有何本质不同?NVIDIA 为何“不为”?是技术不能,还是商业不愿?HAMi 的核心竞争力与长期护城河到底在哪里?
本文是分析海光 DCU 设备如何通过 HAMi 完成虚拟化,实现统一纳管与调度。
这一篇我们分析一下 HAMi 的调度特性:根据 GPU 类型甚至 UUID 实现精细调。
HAMi v2.5.0 发布啦,新增了动态 MIG 支持的同时稳定性、易用性都有较大提升,快来看看吧。
本文为 HAMi 原理分析的第五篇,简单分析一下 HAMi-Core 的工作原理,包括怎么生效的,CUDA API 怎么拦截的,以及是怎么实现的对 GPU 的 core、memory 资源的 limit 的。
本文为 HAMi 原理分析的第四篇,分析 hami-scheduler 在调度时是如何选择节点的,即:Spread、Binpack 等高级调度策略是怎么实现的。
获取最新的技术文章、教程和 HAMi 社区更新。