美團 LongCat-2.0 萬億參數大模型開源:首個國產卡推理模型,釋放存量算力潛力
美團 LongCat-2.0 模型開源,專為 Agentic Coding 設計,支援長上下文並在國產算力上進行訓練和推理,是重要的模型發布。
美團 LongCat-2.0 萬億參數大模型已正式開源,總參數達 1.6T,平均激活約 48B。作為業界首個在五萬卡 國產算力集群 上完成推理的萬億參數模型,LongCat-2.0 旨在強化真實 Agentic Coding 任務的效率與穩定性。為克服國產晶片在顯存、頻寬和互聯方面的限制,該團隊從多面向進行深度協同優化: • 模型層面:引入 LongCat 稀疏注意力機制 (LSA) 提升長上下文處理效率、透過 N-gram Embedding 提高參數利用率。 • 晶片適配與部署層面:採用 Super Kernel 減少算子、Weight Prefetch 隱藏 I/O 延遲,並結合 PD 分離部署策略,確保萬億參數模型在存量國產卡上穩定且快速運行。LongCat-2.0 透過 MOPD 架構 融合自主執行、深度推理與精準交互的綜合表現。本次開源提供 BF16、FP8 和 INT8 等多精度版本,並同步開放針對 國產算力 極致優化的推理程式碼。
美團期望透過這套開箱即用的推理棧,讓更多國產卡,包括老舊卡片,都能流暢部署萬億大模型推理服務,進而釋放國產算力生態的長期價值。
來源:美團技術團隊
閱讀原文 ↗另見:美團技術團隊