浪潮信息支持万亿参数大模型性能突破

浪潮信息宣布元脑企智一体机完成对Kimi K2万亿参数大模型的适配支持，单用户速度达70 tokens/s。该模型采用混合专家结构，需至少1TB显存容量，浪潮NF5688G7服务器通过高效算子优化实现性能突破。软硬件方案已部署至金融、制造等多行业，提供低代码模型开发工具，助力企业智能化转型。