【经营】岩山科技开源EdgeRock-4B模型,KV Cache降低99.1%、单卡吞吐提升6.42倍
2026-10-19
岩山科技旗下岩芯矩阵联合香港科技大学、卡内基梅隆大学等高校,正式发布并开源EdgeRock-4B模型,面向长上下文推理场景。
在256K上下文下,该模型的注意力KV Cache容量较源模型Qwen3.5-4B减少99.1%,在单张80GB GPU上批量测试中,吞吐达到源模型的6.42倍。在AIME2024—2026数学推理评测中,平均一次通过率达到82.9%,是有界状态模型最佳成绩的4.41倍。
模型引入记忆岩锚(RMA)机制,通过循环状态、局部窗口和锚点库三部分协同保存历史信息,在256段长上下文的1024个远距查询中,开启RMA正确率达94.1%。
岩芯矩阵还公布了Ultra-Fast Token技术路线图,涵盖DiffusionRock整块生成和SiliconRock芯片协同设计,长期目标为单用户百万token/s。
点此打开小程序免费查看完整AI分析结果
在256K上下文下,该模型的注意力KV Cache容量较源模型Qwen3.5-4B减少99.1%,在单张80GB GPU上批量测试中,吞吐达到源模型的6.42倍。在AIME2024—2026数学推理评测中,平均一次通过率达到82.9%,是有界状态模型最佳成绩的4.41倍。
模型引入记忆岩锚(RMA)机制,通过循环状态、局部窗口和锚点库三部分协同保存历史信息,在256段长上下文的1024个远距查询中,开启RMA正确率达94.1%。
岩芯矩阵还公布了Ultra-Fast Token技术路线图,涵盖DiffusionRock整块生成和SiliconRock芯片协同设计,长期目标为单用户百万token/s。
点此打开小程序
重要提示和声明
本页面内容由AI生成,不保证完全真实、准确或完整,不代表希财舆情宝官方立场,不构成任何投资建议。查看详细说明,请点击此处
订阅榜