中国电信完成国产算力跨架构大模型推理技术验证

中国电信研究院联合中科院计算所、华为昇腾、沐曦等机构，成功完成了业界首个面向国产算力的跨架构大模型推理技术验证。

该验证通过自研Triton跨架构编译器与统一大模型算子库，实现了同一套算子源码在英伟达、昇腾、沐曦三类芯片上无缝运行，已完成10余款主流开源模型在三类芯片上的端到端推理测试。此举将大模型算子适配周期从“周级”压缩至“天级”，性能达到原生算子库90%。