2025年,隨著DeepSeek大模型的開源迭代,AI技術在云計算領域的應用加速滲透,市場對高性能AI芯片的需求迎來爆發式增長。作為AI算力供應鏈的核心供應商,深圳市科通技術股份有限公司(以下簡稱“科通技術”)推出的“DeepSeek+AI芯片”全場景方案,在云AI領域取得重大突破。除了GPU的算力總量,云AI的一大挑戰來源于GPU集群的數據互聯效率。某大型互聯網集團為解決云AI系統中千卡級GPU集群的高性能需求,面臨服務器與加速卡間數據交換帶寬和延遲的嚴苛挑戰。科通技術聯合全球頂尖設備原廠,基于Infiniband技術打造了葉-脊(Leaf-Spine)架構的服務器網絡集群方案,成為云場景算力升級的標桿案例。
Infiniband技術是一種高性能的計算機網絡技術,它在數據傳輸方面具備高帶寬、低延遲的顯著優勢,能夠快速處理大量數據,滿足AI計算對數據傳輸速度的嚴苛要求。而葉-脊架構是一種常用于數據中心網絡的拓撲結構,相較于傳統網絡架構,它有著更高的擴展性和更低的網絡延遲,非常適合大規模集群的應用場景。
在技術細節上,科通技術采用高性能服務器CPU與高端GPU卡的組合,通過芯片級優化實現千塊GPU卡池的高帶寬、低延時數據交換。方案設計中,葉-脊架構的網絡拓撲不僅滿足了當前千卡級集群的數據吞吐需求,還通過預留充足的接口容量支持未來業務擴展,確保系統具備長期適應性。此外,科通技術為集群配置了100G/200G/400G高速網卡及智能網關設備。經測試,與傳統方案相比,該方案可提供3.2倍以上數據交換吞吐量,不僅使AI推理效率提升了15%以上,還降低36%的功耗。這一方案的成功實施,科通在高速網絡設備業務的顯著提升直接帶動了科通技術代理的各原廠專業GPU、服務器CPU及相關存儲產品的銷量增長。
在市場成效方面,該案例不僅幫助客戶實現了大參數模型(如千億級參數)的高并發訓練與推理應用指標,還推動了科通技術在云AI基礎設施領域的深度布局。通過代理全球80余家芯片原廠的核心產品,科通技術構建了覆蓋云端訓練、推理、存儲、網絡的全棧芯片矩陣,能夠為不同規模客戶提供定制化解決方案。隨著DeepSeek大模型對算力需求的持續攀升,云場景的AI芯片采購量呈現指數級增長。科通技術已與多家頭部互聯網企業達成長期合作,預計未來云場景相關業務將持續帶動公司營收增長。
可以預見,DeepSeek大模型的技術迭代將持續催化AI芯片在云端的應用需求。科通技術憑借全場景方案的技術整合能力和全球供應鏈優勢,在AI算力供應鏈中占據重要地位。隨著AI模型復雜度的提升和云服務規模的擴大,科通技術有望憑借其技術優勢和市場布局,在行業中持續發展,為AI芯片應用產業的發展貢獻重要力量。
審核編輯 黃宇
-
芯片
+關注
關注
459文章
52430瀏覽量
439716 -
AI
+關注
關注
88文章
34953瀏覽量
278417 -
大模型
+關注
關注
2文章
3114瀏覽量
4027
發布評論請先 登錄
騰視科技TS-NV-P100系列AI邊緣算力盒子綜合算力高達157TOPS:重新定義AI邊緣算力,賦能千行百業智能化升級

騰視科技TS-NV-P100系列AI邊緣算力盒子綜合算力高達157TOPS:重新定義AI邊緣算力,賦能千行百業智能化升級
邊緣計算時代,科通技術以端AI方案重構算力分配格局
用一套Linux系統,撐起整個芯片設計平臺?CFA團隊教你如何搭好EDA智算平臺的技術底座
點動科技戰略聚焦AI智算,領航算力服務新征程
國產化算力新標桿!卓怡恒通EPC-S4450邊緣AI工控機開啟工業智能新紀元

性能提升近一倍!壁仞科技攜手無問芯穹,在千卡訓練集群等領域取得技術新突破

OCTC發布&quot;算力工廠&quot;!力促智算中心高效規劃建設投運

AI網絡物理層底座: 大算力芯片先進封裝技術

評論