【经营】优刻得联合上科大推出cloud-probe大模型推理通信观测工具
2026-09-30
优刻得与上海科技大学联合研发cloud-probe,将基础设施监控与NCCL GPU通信内核级观测相结合,为大模型推理服务提供通信性能分析与异常排查能力。
该工具通过插件接入实现业务代码无侵入的观测,按消息大小分桶展示通信带宽与时延,并支持多源关联的异常诊断。
优刻得孔明平台将集成cloud-probe,为云上大模型推理服务提供通信性能分析与异常诊断能力,未来还将探索自动化巡检与AI辅助分析。
点此打开小程序免费查看完整AI分析结果
该工具通过插件接入实现业务代码无侵入的观测,按消息大小分桶展示通信带宽与时延,并支持多源关联的异常诊断。
优刻得孔明平台将集成cloud-probe,为云上大模型推理服务提供通信性能分析与异常诊断能力,未来还将探索自动化巡检与AI辅助分析。
点此打开小程序
重要提示和声明
本页面内容由AI生成,不保证完全真实、准确或完整,不代表希财舆情宝官方立场,不构成任何投资建议。查看详细说明,请点击此处
订阅榜