?近期,澎峰科技與沐曦完成了對PerfXLM(推理引擎)、PerfXCloud(大模型服務平臺)與沐曦的曦云系列通用計算GPU的聯(lián)合測試,測試結(jié)果表明PerfXLM、PerfXCloud軟件與沐曦GPU產(chǎn)品實現(xiàn)了全面兼容。
PerfXLM高性能大模型推理引擎與沐曦GPU硬件平臺完成適配,PerfXLM采用云邊端一體架構(gòu),支持云端和本地大模型推理。經(jīng)過雙方聯(lián)合測試,PerfXLM對沐曦GPU硬件平臺的兼容性、穩(wěn)定性和可靠性上取得極大領(lǐng)先,部分指標實現(xiàn)了對NVIDIA A100的反超。PerfXLM 針對部分大模型的計算性能優(yōu)化成果堪稱卓越,多個主流模型在在該平臺的推理總吞吐速度實現(xiàn)了最高達到50%的性能提升。標志著雙方在CUDA生態(tài)兼容上實現(xiàn)再次突破。
PerfXCloud大模型服務平臺與沐曦的GPU硬件平臺完成適配,并完成了超80種大模型的推理、微調(diào)(包括Qwen系列、Yi-Coder系列、DeepSeek系列、Llama系列、ChatGLM系列等)支持,兼容性在國內(nèi)處于領(lǐng)先地位。未來,雙方將不斷豐富模型倉庫,以滿足多樣化的應用需求,為用戶提供更優(yōu)質(zhì)和便捷的模型服務,幫助智算中心升級進化為超級AI Foundry。
此次合作,為國產(chǎn)計算軟硬融合和產(chǎn)業(yè)鏈合作建立了示范。未來,雙方將以市場需求為導向,共同探索更多可能性,為實現(xiàn)大模型人工智能技術(shù)的自主可控和可持續(xù)發(fā)展貢獻力量。
-
gpu
+關(guān)注
關(guān)注
28文章
4937瀏覽量
131169 -
澎峰科技
+關(guān)注
關(guān)注
0文章
71瀏覽量
3379 -
沐曦
+關(guān)注
關(guān)注
0文章
34瀏覽量
1424
原文標題:澎峰科技計算軟件棧與沐曦GPU完成適配和互認證
文章出處:【微信號:perfxlab,微信公眾號:perfxlab】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
Imagination與澎峰科技攜手推動GPU+AI解決方案,共拓計算生態(tài)
Imagination與澎峰科技攜手推動GPU+AI解決方案,共拓計算生態(tài)

潤和軟件AIRUNS 3.0通過鯤鵬生態(tài)全棧兼容認證,全面適配國產(chǎn)軟硬件環(huán)境

PaddleScience完成與沐曦AI芯片適配
沐曦曦云C500通用計算GPU與百度飛槳完成Ⅱ級兼容性測試
沐曦加速DeepSeek滿血版單卡C500異構(gòu)推理
澎峰科技與沐曦完成聯(lián)合測試,實現(xiàn)全面兼容
澎峰科技助力中國移動發(fā)布智算“芯合”算力原生基礎軟件棧2.0
摩爾線程與超圖軟件完成產(chǎn)品兼容認證
澎峰科技高性能大模型推理引擎PerfXLM解析

評論