英伟达 NVIDIA
支持显存与算力共享、隔离、多卡虚拟化,以及 Binpack / Spread 调度。部署需要匹配 GPU 型号与 CUDA 的驱动、NVIDIA Container Toolkit 和 HAMi 设备插件;使用 GPU Operator 时关闭其原生设备插件。
查看适配文档支持显存与算力共享、隔离、多卡虚拟化,以及 Binpack / Spread 调度。部署需要匹配 GPU 型号与 CUDA 的驱动、NVIDIA Container Toolkit 和 HAMi 设备插件;使用 GPU Operator 时关闭其原生设备插件。
查看适配文档支持多任务共享 GPU、按 MiB 分配显存及按比例分配计算单元(CU)。部署需要 AMD 驱动、ROCm 和 HAMi AMD 设备插件;共享任务镜像需 glibc 2.34 或更高版本,并关闭 AMD GPU Operator 原生设备插件。
查看适配文档支持按 NeuronCore 分配资源、设备共享及多设备拓扑感知调度,覆盖训练与推理场景。部署在 Inf / Trn 型 EC2 实例上,配置 Neuron 驱动与运行环境、Neuron Device Plugin 和 HAMi。
查看适配文档