【经营】腾讯混元发布轻量版大模型，压缩体积并支持异构推理

腾讯混元宣布推出Hy4 preview轻量版，通过自研Sherry稀疏三值量化算法和MIX-STQ1_0混合精度策略，将模型从近1.5TB压缩至约214GB，在主流评测任务上性能保持稳定。同时验证了异构设备联合推理方案，在4090笔记本与四卡A4000服务器上协同运行速度达1.02token/s，较单机提升约6倍。量化GGUF库及相关代码已同步开源，为资源有限的开发者提供了运行旗舰大模型的新路径。