【山证计算机】行业快报:UltraMem架构为推理降本,AI应用全面落地可期
2025-02-18
字节豆包大模型团队发布全新的稀疏模型架构UltraMem,该架构显著提升了推理速度并降低了成本。UltraMem在PKM架构基础上优化了模型结构、value检索方式和稀疏参数,使得推理成本大幅下降,有望加速AI应用的落地,并推动应用向端侧渗透。报告建议关注包括科大讯飞在内的多个AI应用相关标的。
重要提示和声明
本页面内容由AI生成,不保证完全真实、准确或完整,不代表希财舆情宝官方立场,不构成任何投资建议。查看详细说明,请点击此处
订阅榜
