【導(dǎo)讀】6月17日，摩爾線程宣布在AI訓(xùn)推一體全功能GPU智算卡MTT S5000上，完成對(duì)智譜新一代開源旗艦?zāi)Ｐ虶LM-5.2的Day-0極速適配。此次適配延續(xù)了摩爾線程在GLM-5.1長上下文Prefill與P/D異構(gòu)分離推理場(chǎng)景中的優(yōu)化積累，并面向GLM-5.2超長上下文與復(fù)雜推理負(fù)載，進(jìn)一步釋放MTT S5000在長輸入Prefill階段的高吞吐優(yōu)勢(shì)。
摩爾線程技術(shù)團(tuán)隊(duì)基于高性能SGLang-MUSA推理引擎及TileLang-MUSA算子編程語言，快速完成模型結(jié)構(gòu)適配、關(guān)鍵算子優(yōu)化、框架拉起與部署驗(yàn)證，在MTT S5000上實(shí)現(xiàn)GLM-5.2的高效、高精度推理。這一成果彰顯了國產(chǎn)全功能GPU算力基礎(chǔ)設(shè)施對(duì)前沿SOTA模型的快速響應(yīng)能力，也為軟硬協(xié)同應(yīng)對(duì)復(fù)雜AI推理場(chǎng)景提供了可復(fù)制的工程實(shí)踐。
作為智譜迄今能力最強(qiáng)的開源模型，GLM-5.2專為長程任務(wù)（Long Horizon Task）能力而生。它支持真正可用的1M Solid超長上下文，可穩(wěn)定支撐長達(dá) 8 小時(shí)的超長生命周期任務(wù)。在全球百萬用戶參與盲測(cè)的前端開發(fā)評(píng)估系統(tǒng)Code Arena上，GLM-5.2取得全球可用模型第一的表現(xiàn)；相比前代GLM-5.1，新模型在前端、后端及長程開發(fā)場(chǎng)景下的成功率均有長足提升，能夠提供更實(shí)用、更具確定性的Coding能力，讓復(fù)雜系統(tǒng)工程與深度調(diào)試更穩(wěn)、更強(qiáng)。
為充分釋放GLM-5.2的長上下文與復(fù)雜推理潛能，MTT S5000從硬件算力、軟件棧到開源框架進(jìn)行了全鏈路適配與深度優(yōu)化：
支撐超長上下文：釋放長輸入Prefill階段高吞吐優(yōu)勢(shì)
GLM-5.2的Solid 1M上下文與長程任務(wù)能力，使長Prompt編碼、上下文讀入與KV Cache生成成為推理鏈路中的關(guān)鍵環(huán)節(jié)。長輸入請(qǐng)求在進(jìn)入生成階段前，需要先完成大規(guī)模Prefill計(jì)算；這一階段高度依賴并行矩陣計(jì)算、Attention算子效率、顯存容量與訪存帶寬。MTT S5000憑借硬件級(jí)原生FP8加速，單卡稠密算力高達(dá)1000 TFLOPS，配備80GB大容量顯存與1.6TB/s超高帶寬，可在長輸入Prefill階段集中釋放高吞吐優(yōu)勢(shì)，為百萬token級(jí)上下文處理提供充足緩存空間和穩(wěn)定數(shù)據(jù)吞吐。依托MUSA C++、Triton-MUSA與TileLang-MUSA等工具鏈，GLM-5.2相關(guān)算子結(jié)構(gòu)可快速遷移并針對(duì)長序列場(chǎng)景持續(xù)優(yōu)化，幫助降低長上下文請(qǐng)求的首Token等待時(shí)間（TTFT），提升AI Coding、RAG和長文檔分析等場(chǎng)景的在線推理效率。
賦能前沿Coding與Agent能力：以算子與調(diào)度優(yōu)化提升推理效率
面向GLM-5.2重點(diǎn)強(qiáng)化的編程、智能體和長程任務(wù)場(chǎng)景，摩爾線程基于GLM家族多代模型的適配與優(yōu)化經(jīng)驗(yàn)，將模型結(jié)構(gòu)適配、算子優(yōu)化、框架拉起和部署驗(yàn)證能力快速遷移至GLM-5.2。通過原生算子定制、TileLang-MUSA編程優(yōu)化和SGLang-MUSA推理框架協(xié)同，MTT S5000能夠在保障模型精度的前提下提升推理吞吐、降低響應(yīng)延遲，為客戶提供面向AI Coding、Agent工作流和長文檔分析的高效推理服務(wù)。從GLM-4.7、GLM-5、GLM-5.1到GLM-5.2，摩爾線程已連續(xù)實(shí)現(xiàn)對(duì)智譜GLM家族前沿大模型的發(fā)布當(dāng)日即時(shí)適配，沉淀出高效、可復(fù)用的工程底座。面向以GLM-5.2為代表的新一代長程任務(wù)模型，摩爾線程不僅提供基礎(chǔ)適配，更通過Prefill優(yōu)化與P/D異構(gòu)分離方案，提供從單卡性能、多卡擴(kuò)展、KV Cache傳輸?shù)郊篢CO（總體擁有成本）優(yōu)化的端到端支撐。
未來，摩爾線程將依托MUSA軟件棧強(qiáng)大的生態(tài)兼容性，持續(xù)第一時(shí)間適配前沿模型能力，以高性能、可規(guī)?；膰a(chǎn)全功能GPU基礎(chǔ)設(shè)施，加速大模型應(yīng)用創(chuàng)新落地。
