阿里云灵骏真武M890完成Kimi K3.1 Pro Day0适配并上线API

11月5日，阿里云宣布灵骏真武M890超节点已完成月之暗面Kimi K3.1 Pro模型权重的Day0适配，并在vLLM与SGLang两大主流开源推理框架上通过全链路验证。Kimi K3.1 Pro为月之暗面最新开源的大模型，总参数2.8万亿，支持100万Token上下文，是当前全球参数规模最大的开源模型之一。目前，该模型已在千问AI平台部署上线，对外提供API服务。

针对万亿参数模型的“高吞吐、低延迟、高并发”需求，阿里云、平头哥与Kimi团队基于T-Head SAIL软件栈完成联合适配，并对FlashMLA、DeepGEMM、MegaMoE及MoonEP等算子进行重点优化，用户可通过裸金属或REIN智能引擎服务快速完成推理部署。此外，阿里云位于宁夏中卫的超节点地域同步开启邀测，新增平头哥磐脉920智能网卡，最高支持400Gbps吞吐带宽。目前阿里云已在乌兰察布和中卫数据中心提供面向主流大模型的超节点实例。