首页
看点啥
插画图片
首页 娱乐八卦 阿里云真武M890超节点率先适配2.8万亿参数Kimi

阿里云真武M890超节点率先适配2.8万亿参数Kimi

2026-07-29 0

国内首个能够成功运行近三万亿参数规模模型的超节点系统已经出现。阿里云在2026年7月28日宣布,真武M890超节点实例于首日实现了对Kimi K3模型的全面适配。

Kimi K3拥有2.8万亿参数,运行时需要把海量参数高效分配至数十乃至上百张高速互联的GPU设备。由于通信带宽受限,传统AI集群难以达到此类模型对高吞吐、低延迟和高并发的严格要求。

此类算力瓶颈正是真武超节点的设计目标。作为核心计算单元,真武M890芯片基于自研并行计算架构,单颗配有144GB显存。磐久AL128超节点服务器则以自研互联芯片和AI芯片为基础,在单机柜中集成128张加速卡,通过紧密耦合互联把点对点通信时延控制在150纳秒以下。

64颗真武M890经由ICN Switch 1.0互联芯片连接后,可提供800GB/s双向互联带宽,使整套系统的显存总容量达到9TB。因此,仅需单个超节点实例,万亿级参数规模MoE模型便可实现规模化部署。

为了充分发挥Kimi K3的运行效能,阿里云联合平头哥和Kimi研发团队,从软件栈、核心算子等多个层面展开深度协同优化。针对该模型独有的计算结构,真武M890实施专项算子重构,从而显著提高推理时的算力利用效率和内存带宽利用率。

完成适配后,模型生成首个Token所需的响应时延约减少35%,而单卡解码吞吐量达到此前的1.8倍,这是实测结果给出的结论;对于百万级长度上下文的复杂应用场景,系统也能提供长期稳定支持。

Kimi K3模型API服务将由阿里云百炼平台、千问AI平台同步开放,由此促成平台生态与模型能力的深度融合。

全球主流大模型当前正加速进入超两万亿参数阶段。真武超节点不但成功部署了Kimi K3,也确保模型能够高效、稳定并可持续运行。这表明国产智能算力已经具备支撑超大规模参数模型实际落地和规模化应用的核心能力。

喜欢(0)

上一篇

全汉推出DAGDER PM 1200W SFX-L白金电源

下一篇

最终幻想7:启示调整小游戏设计:难度可调、全程跳过、奖励重构

猜你喜欢