【经营】浪潮信息发布128芯超节点AI服务器，大模型推理性能提升3倍

浪潮信息在2026人工智能计算大会上发布元脑SD200Ultra超节点AI服务器，该系统连接128颗本土AI芯片，提供8TB统一编址显存和64TB内存，主要面向万亿参数模型和复杂智能体任务。

通信时延最低为0.69微秒，通过对称内存技术让GPU直接访问远端GPU显存，AllReduce通信时间缩短至原来的约三分之一。

在Kimi K3模型测试中，Token生成时延最低为5.85毫秒，对应单用户每秒生成约170个Token。公司针对Kimi K3进行算子优化，算子数量减少约90%，推理性能提升3倍以上。