山西证券—计算机行业快报：UltraMem架构为推理降本，AI应用全面落地可期—250217

字节跳动发布全新稀疏模型架构UltraMem，该架构显著提升了推理速度并大幅降低了推理成本。优化后的UltraMem在多个方面进行了改进，如优化模型结构、value检索方式和隐式扩展稀疏参数，从而在保证性能的同时大幅提高推理效率。随着推理成本的持续下降，预计将加速AI应用的落地，并推动算力需求的增长，特别是对国产算力芯片厂商如寒武纪等构成利好。