山西证券—计算机行业快报：UltraMem架构为推理降本，AI应用全面落地可期—250217

字节跳动发布全新的稀疏模型架构UltraMem，解决了MoE架构在推理时的高额访存问题，使推理速度提升2—6倍，推理成本最高可降低83%。UltraMem通过优化模型结构、value检索方式和隐式扩展稀疏参数，实现了性能和效率的大幅提升。这一技术进步有望加速AI应用落地，并推动应用向端侧渗透，进而刺激推理算力需求。浪潮信息作为AI服务器厂商之一，将受益于这一趋势。