山西证券—计算机行业快报：UltraMem架构为推理降本，AI应用全面落地可期—250217

字节豆包大模型团队发布UltraMem架构，显著提升稀疏模型推理速度和降低成本。该架构优化了PKM设计，通过改进模型结构、value检索方式和隐式扩展稀疏参数，实现高效推理。实验结果显示，UltraMem在保持性能的同时大幅降低推理成本。随着推理成本下降，AI应用有望加速落地并拓展到端侧场景，利好相关企业服务公司如用友网络等。