【经营】摩尔线程发布Prefill-as-a-Service技术白皮书 破解长上下文推理成本瓶颈

近日摩尔线程正式发布《MTT S5000 Prefill-as-a-Service技术白皮书》，针对长上下文推理场景的算力错配痛点，推出Prefill-Decode异构解耦新范式，将预填充与解码任务拆分至专属算力池运行，解决传统同构集群的双向资源浪费问题。基于MTT S5000的高稠密算力、原生FP8支持及MUSA生态兼容特性，方案在64K上下文场景下可实现单机5.8MTokens的推理吞吐，满负载下单机月收入可达64.6万元，为AI Agent、超长文档分析等场景提供了兼顾效率与成本的可落地路径。