我國(guó)人工智能技術(shù)產(chǎn)業(yè)近來(lái)取得顯著進(jìn)步,多款新發(fā)布的大模型已達(dá)到國(guó)際先進(jìn)水平。我國(guó)AI芯片企業(yè)也在積極行動(dòng),和各國(guó)產(chǎn)大模型開(kāi)展適配,共同構(gòu)建智能計(jì)算產(chǎn)業(yè)生態(tài)。作為國(guó)家權(quán)威技術(shù)驗(yàn)證平臺(tái),中國(guó)信息通信研究院(簡(jiǎn)稱:中國(guó)信通院)依托“人工智能芯片測(cè)試評(píng)估公共服務(wù)平臺(tái)”,構(gòu)建了AI芯片與大模型協(xié)同適配的標(biāo)準(zhǔn)化體系,為產(chǎn)業(yè)鏈上下游深度合作提供關(guān)鍵支撐,并開(kāi)展AI芯片與大模型的適配驗(yàn)證工作,通過(guò)多項(xiàng)舉措促進(jìn)AI芯片與大模型的協(xié)同發(fā)展。
經(jīng)中國(guó)信息通信研究院檢測(cè),在本次AI芯片與模型適配驗(yàn)證項(xiàng)目中,摩爾線程自主研發(fā)的訓(xùn)推一體計(jì)算卡摩爾線程 MTT S4000和杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司研發(fā)的DeepSeek-R1 671B 大模型,在推理場(chǎng)景下的適配結(jié)果符合“AI芯片和大模型通過(guò)性適配要求”,成功通過(guò)中國(guó)信通院《AI芯片和大模型適配能力通過(guò)性評(píng)測(cè)軟硬件環(huán)境及測(cè)試細(xì)則》推理場(chǎng)景驗(yàn)證。摩爾線程MTT S4000可實(shí)現(xiàn)正常、穩(wěn)定運(yùn)行,滿足推理使用需求,符合通過(guò)性適配驗(yàn)證條件,并獲頒檢測(cè)證書。目前,摩爾線程系列訓(xùn)推一體計(jì)算卡正在開(kāi)展優(yōu)化性適配驗(yàn)證工作,相關(guān)結(jié)果將在檢測(cè)流程結(jié)束后另行公布。
MTT S4000是基于摩爾線程全功能GPU架構(gòu),專為大模型打造的訓(xùn)推一體通用計(jì)算卡,支持 FP64/FP32/TF32/FP16/BF16/INT8 等完整計(jì)算精度,配備48GB 高性能顯存。憑借摩爾線程自研MTLink 1.0技術(shù),MTT S4000可實(shí)現(xiàn)多卡互聯(lián)及千卡集群部署,為千億參數(shù)大模型的訓(xùn)練、微調(diào)和推理提供強(qiáng)勁算力支撐。同時(shí),它還兼具先進(jìn)的圖形渲染、視頻編解碼和超高清8K HDR顯示能力,可滿足人工智能、科學(xué)計(jì)算、多媒體處理等復(fù)合場(chǎng)景需求。
MTT S4000此次能夠快速完成DeepSeek R1-671B大模型的適配驗(yàn)證,主要得益于包括vLLM-MUSA推理框架、MUTLASS、Triton-MUSA等在內(nèi)的完善的MUSA生態(tài)軟件棧和快捷開(kāi)發(fā)實(shí)踐。這些技術(shù)優(yōu)勢(shì)既體現(xiàn)了MUSA軟件棧的高效適配能力,也使其整體性能達(dá)到行業(yè)主流水平,彰顯了摩爾線程在國(guó)產(chǎn)GPU技術(shù)創(chuàng)新和生態(tài)建設(shè)方面的強(qiáng)大實(shí)力。
近期,摩爾線程還推出了搭載MTT S4000的MCCX DeepSeek大模型一體機(jī),該產(chǎn)品深度融合國(guó)產(chǎn)全功能GPU、深度優(yōu)化的高性能推理引擎和軟件棧,全面支持從蒸餾版到671B參數(shù)全量版DeepSeek模型的部署需求,可靈活適配廣泛的行業(yè)、場(chǎng)景和應(yīng)用。通過(guò)摩爾線程硬件到軟件的自主技術(shù)鏈,該一體機(jī)可實(shí)現(xiàn)開(kāi)箱即用、安全可控的一站式大模型服務(wù),從而為政企客戶提供高效易用的國(guó)產(chǎn)化AI基礎(chǔ)設(shè)施,顯著降低大模型應(yīng)用門檻。
關(guān)于摩爾線程
摩爾線程成立于2020年10月,以全功能GPU為核心,致力于向全球提供加速計(jì)算的基礎(chǔ)設(shè)施和一站式解決方案,為各行各業(yè)的數(shù)智化轉(zhuǎn)型提供強(qiáng)大的AI計(jì)算支持。
我們的目標(biāo)是成為具備國(guó)際競(jìng)爭(zhēng)力的GPU領(lǐng)軍企業(yè),為融合人工智能和數(shù)字孿生的數(shù)智世界打造先進(jìn)的加速計(jì)算平臺(tái)。我們的愿景是為美好世界加速。
-
人工智能
+關(guān)注
關(guān)注
1806文章
48949瀏覽量
248376 -
AI芯片
+關(guān)注
關(guān)注
17文章
1980瀏覽量
35818 -
摩爾線程
+關(guān)注
關(guān)注
2文章
231瀏覽量
5288
原文標(biāo)題:摩爾線程MTT S4000訓(xùn)推一體計(jì)算卡通過(guò)中國(guó)信通院AI芯片和大模型適配驗(yàn)證
文章出處:【微信號(hào):moorethreads,微信公眾號(hào):摩爾線程】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
摩爾線程GPU成功適配Deepseek-V3-0324大模型

沐曦曦云C550通用計(jì)算GPU完成DeepSeek R1-671B大模型適配
企業(yè)上云不再難!DeepSeek 滿血版R1-671B 來(lái)助跑

RK3588開(kāi)發(fā)板上部署DeepSeek-R1大模型的完整指南
摩爾線程完成DeepSeek開(kāi)源庫(kù)FlashMLA和DeepGEMM適配
摩爾線程圖形顯卡MTT S80實(shí)現(xiàn)DeepSeek模型部署

景嘉微JM11 GPU已流片,JM、景宏系列完成DeepSeek R1系列模型適配

瀚博完成DeepSeek全版本訓(xùn)推適配
芯動(dòng)力神速適配DeepSeek-R1大模型,AI芯片設(shè)計(jì)邁入“快車道”!

評(píng)論