密瓜智能持续拓展国产算力生态：携手天数智芯完成 llm-d 适配
集成生态
密瓜智能持续拓展国产算力生态：携手天数智芯完成 llm-d 适配
密瓜智能与天数智芯合作，完成 llm-d 在天垓 300 等产品上的 P/D 分离部署适配与端到端验证，打通从模型加载、分布式调度到推理输出的完整流程，并向上游社区提交相关适配改动。
博客
来自我们团队的见解、教程和新闻
CNCF × PyTorch 基座中的 HAMi 定位
社区活动
HAMi Meetup 上海站深度解读（一）：CNCF × PyTorch 的云原生 AI 基座里，HAMi 解决哪一层问题？
模型已经能跑起来，业务却迟迟难以上线。CNCF 中国区总监 Keith Chan 在 HAMi Meetup 上海站的 开场演讲，给出了一套云原生 AI 研发基座的分层协作思路：HAMi 位于调度与资源管理层，承担异构算力共享与管理的角色。理解这一位置，才能判断引入 HAMi 可以解决什么，以及还需要哪些组件配合。
HAMi 社区圆桌：从使用者到共建者
社区活动
HAMi Meetup 上海站深度解读（七）：从使用者到共建者，企业为什么需要一个可持续的 HAMi 社区？
企业把开源软件用进生产环境后，关注的问题会逐渐延伸到代码之外：遇到问题能否得到响应？新需求如何进入公共路线？HAMi Meetup 上海站圆桌讨论围绕真实使用、贡献门槛、AI 辅助开发的责任边界与社区知识沉淀展开，提供技术选型之外的另一组判断依据。
HAMi 2.10：隔离、调度与观测
社区活动
HAMi Meetup 上海站深度解读（二）：GPU 共享之后，HAMi 如何进一步做好隔离、调度与观测？
把一张 GPU 分给多个任务，只是资源共享的开始。密瓜智能联合创始人兼 CTO、HAMi Maintainer 李孟轩在 HAMi Meetup 上海站介绍了 v2.10 的能力进展、DRA 生态适配，以及演讲时公布的 v2.11 规划（Remote GPU、CPU NUMA 对齐）。串起这些变化的主线，是让共享后的算力既能按需分配，也能在运行过程中被约束、观测和诊断。
天数智芯 GPU 推理部署实践
社区活动
HAMi Meetup 上海站深度解读（四）：GPU 性能如何变成推理服务能力？从天数智芯实践看平台分工
GPU 的计算性能不错，用户却仍在等待首个 Token。天数智芯 Infra 研发总监叶成林在 HAMi Meetup 上海站分享国产 GPU 高性能推理部署实践：执行优化、拓扑调度与推理编排之间的分工，以端到端 SLO 为验收标准，以及小模型场景使用 HAMi 共享 GPU 的路径。
llm-d 与 HAMi 的协同方向
社区活动
HAMi Meetup 上海站深度解读（三）：推理控制与 GPU 资源管理如何分工？llm-d 与 HAMi 的协同方向
同一个模型部署了多个副本，请求平均分过去，响应却未必更快。红帽大中华区 CTO 张家驹在 HAMi Meetup 上海站分享 llm-d 分布式推理平面的架构：前缀感知路由、PD 分离与缓存卸载如何协同，以及问答中谈到的 HAMi 资源层协作方向——请求调度与 GPU 切分是需要衔接、又不能相互替代的两层工作。
UCloud 智算平台工程实践
社区活动
HAMi Meetup 上海站深度解读（六）：UCloud 如何把 HAMi 共享能力接入可用的开发环境？
GPU 已经到位，算法团队却还在等待环境。UCloud 高级研发工程师彭鹏在 HAMi Meetup 上海站分享《智算平台的工程挑战与实践》：统一实例规格、多集群接入、工具注入与镜像加速共同缩短环境交付链路；私有化场景采用 HAMi vGPU，公有云另有内核级 vGPU 与 QEMU 透传路径。
科大讯飞 Volcano + HAMi-core 实践
社区活动
HAMi Meetup 上海站深度解读（五）：科大讯飞如何用 Volcano + HAMi-core 管好多业务 GPU 共享？
研究任务希望尽快拿到 GPU，线上业务需要稳定的资源保障。科大讯飞资深架构师董江在 HAMi Meetup 上海站分享《基于 Volcano + HAMi-core 打造 K8s 异构 AI 加速算力底座》：队列与编排能力叠加卡内资源控制，让不同业务保留自己的执行方式，也让共享资源拥有清楚的使用规则。
电科云 CNCF 案例研究
案例研究
电科云基于 HAMi 构建便携式知识库的国产 GPU 共享资源底座
电科云需要把智能知识库带到项目现场，在一套采用国产 GPU 的便携设备中同时承载 文本生成、Embedding、Rerank、知识加工和研发调试任务。团队引入 Kubernetes 与 HAMi，单设备开发环境承载能力从 2 个提升至 30 个，单卡释放 56GB 显存和 80% 算力。
订阅我们的博客
获取最新的技术文章、教程和 HAMi 社区更新。