美团开源万亿参数LongCat-2.0大模型:专为国产算

2026年7月6日，美团正式开源万亿参数大模型LongCat-2.0，并同步发布面向国产算力芯片的推理适配代码。该模型总参数量达1.6万亿，训练与推理过程中平均激活参数约480亿，专为真实场景下的智能体编程任务构建。

LongCat-2.0在架构设计上实现多项突破，首次引入LongCat稀疏注意力机制与N-gram Embedding结构。前者显著提升长上下文处理效率与token级语义表征能力，后者则强化模型对代码逻辑、语法结构及执行语义的理解与生成质量。针对智能体任务中普遍存在的超长输入，模型采用流感知索引、跨层索引与层级化索引三重策略，有效降低内存访问碎片化程度与重复索引计算开销，在保障建模精度的同时，大幅提升百万级长度上下文的训练与推理速度。在混合专家架构稀疏度已达97%的前提下，模型将1350亿参数集中部署于N-gram Embedding模块，该模块占总参数比例严格控制在10%以内，在提升表达能力的同时维持整体结构的鲁棒性与稳定性。

作为首个在五万张国产加速卡集群上完成全流程推理验证的万亿参数模型，LongCat-2.0从模型设计、芯片特性适配到系统级部署策略，均围绕国产算力平台的显存容量与带宽瓶颈展开深度协同优化。模型层面，通过absorb计算范式、Indexer与MLA prolog并行调度、KV-cache分块切分等技术，缓解超长序列带来的I/O压力与显存占用；芯片适配层面，依托Super Kernel整合算子、减少调用频次，并利用Weight Prefetch技术将权重加载延迟隐匿于前置计算周期内；部署策略层面，采用Prefill与Decode分离架构，在兼顾首字响应时间与每秒输出吞吐量的前提下，Prefill阶段通过压缩专家并行域与引入序列并行机制分散计算负载，Decode阶段则借助KV-cache细粒度切分与高并行度调度，显著降低单卡显存峰值需求。

在后训练阶段，模型采用多教师在线蒸馏框架，将专家知识划分为Agent执行、自适应推理与人机交互三类能力导向路径，分别强化自主任务执行、动态推理路径选择与安全对齐等关键维度，最终依托MOPD架构实现在国产算力集群上的高效融合与稳定运行。

LongCat-2.0延续LongCat-Flash的整体技术路线，聚焦长上下文建模、代码生成与智能体行为建模三大核心场景，完成三项针对性升级。本次开源涵盖BF16、FP8及INT8等多种精度版本，适配从高性能服务器到边缘推理设备的多样化国产硬件平台。开源旨在全面释放模型能力与推理优化成果，推动存量国产算力资源的高效复用，持续激发国产算力生态的长期发展潜力。