隨著ChatGPT的爆紅,AIGC產(chǎn)業(yè)鏈?zhǔn)艿搅藦V泛關(guān)注。大模型的發(fā)展正在推動AI算力市場進入新的發(fā)展階段,國內(nèi)外市場掀起了一股新的AI應(yīng)用熱潮。AIGC早已不是簡單的技術(shù)概念,而是逐步形成以生成式AI為核心的新一代產(chǎn)業(yè)生態(tài)。AIGC產(chǎn)業(yè)發(fā)展離不開底層資源建設(shè)。要建設(shè)更加強大的AIGC算力基礎(chǔ)設(shè)施,還需要聚焦新一代AI技術(shù)解決關(guān)鍵挑戰(zhàn),實現(xiàn)革命性突破。
近日,甲子光年智庫發(fā)布《中國AIGC產(chǎn)業(yè)算力發(fā)展報告》,作為全球首家基于存算一體超異構(gòu)創(chuàng)新架構(gòu),面向數(shù)據(jù)中心、云計算、自動駕駛、中心側(cè)服務(wù)器等場景的 AI 大算力芯片公司,億鑄科技被列為“AIGC產(chǎn)業(yè)算力領(lǐng)域的領(lǐng)航者”重點關(guān)注企業(yè)。
報告指出,通信已成為算力增長的瓶頸。過去 20 年間,運算設(shè)備的算力提高了9萬倍,雖然存儲器從 DDR 發(fā)展到 GDDR6x ,接口標(biāo)準(zhǔn)從 PCIe1.0a升級到 NVLink3.0,但是通訊帶寬的增長只有 30 倍。存儲器性能增長慢于處理器,這一剪刀差如今仍在被不斷擴大。
在大模型時代,Transformer模型中的參數(shù)量呈現(xiàn)出 2年240 倍的超指數(shù)增長,而單個GPU內(nèi)存僅以每 2年2倍的速度擴大。無論是訓(xùn)練還是推理,AI計算芯片都肩負了比以往更重的使命。
從技術(shù)環(huán)境來講,數(shù)據(jù)量越來越大、模型算法越來越復(fù)雜,而支撐底層算力的摩爾定律卻幾近終結(jié)。巨大的剪刀差落在AI大算力芯片企業(yè)產(chǎn)業(yè)鏈肩上,就帶來了巨大壓力——有效算力的增長率、軟件的編譯、數(shù)據(jù)的帶寬、存儲的成本、能效比、生產(chǎn)工藝……
這一切挑戰(zhàn)的根源來自數(shù)據(jù)流堵塞,也就是“存儲墻”。無論是芯片外部還是內(nèi)部,數(shù)據(jù)搬運速度的提升都與計算能力的提升都有著巨大的差距,大模型時代的到來無疑擴大了這一鴻溝。AI應(yīng)用進入2.0時代,模型參數(shù)量成長更快,數(shù)據(jù)搬運速度剪刀差更大,而每一次推理計算都需要搬運整個模型參數(shù),存儲墻成為AI大算力芯片發(fā)展的最大痛點。
要想從根源上解決這個問題,就要徹底打破“存儲墻”,因此越來越多的科學(xué)家和創(chuàng)業(yè)者轉(zhuǎn)向了存算一體,尋求在AGI時代的架構(gòu)革新。
打破“存儲墻”,存算一體閃亮登場
根據(jù)目標(biāo)應(yīng)用場景的不同,存算一體企業(yè)選擇的存儲介質(zhì)和技術(shù)路線也會不同。成立之初,億鑄科技在熊大鵬博士的帶領(lǐng)下,經(jīng)過團隊專家的深入探討與研究,一致同意在AI大算力推理芯片這一賽道上,新型憶阻器ReRAM (RRAM) 是當(dāng)前最合適的存儲介質(zhì)。而這一觀點也逐漸獲得了越來越多的認可。在AI大算力市場與AIGC產(chǎn)業(yè)的雙重驅(qū)動下,學(xué)術(shù)界和產(chǎn)業(yè)界正將RRAM推向“C位”,紛紛轉(zhuǎn)向ReRAM尋找新的發(fā)展動力。
億鑄的“四新一強”優(yōu)勢
億鑄科技原型技術(shù)驗證(POC)芯片首次流片已于2023年8月初回片,并成功點亮了首顆面向數(shù)據(jù)中心、云計算、自動駕駛等場景的存算一體AI大算力芯片。可實現(xiàn)“基于成熟28nm工藝制程,單卡突破P級算力”的極強性能與“20T/W”的極高能效比。
甲子光年借《中國AIGC產(chǎn)業(yè)算力發(fā)展報告》指出,AIGC不僅僅體現(xiàn)在對算力規(guī)模的拉動上,而是會改變算力產(chǎn)業(yè)的發(fā)展思路,例如MaaS對云服務(wù)模式的影響,云邊協(xié)同的效力體現(xiàn),及存算一體技術(shù)的發(fā)展等等。
AIGC的時代仍在快速發(fā)展,億鑄科技作為AIGC產(chǎn)業(yè)在算力領(lǐng)域的領(lǐng)航者,將積極尋求與其他算力供應(yīng)商、AI技術(shù)提供商以及AI應(yīng)用企業(yè)的合作,形成緊密的生態(tài)伙伴關(guān)系,共同探索AIGC產(chǎn)業(yè)的應(yīng)用場景和商業(yè)模式,不斷攻克難題,以實現(xiàn)產(chǎn)業(yè)的繁榮發(fā)展。
審核編輯:劉清
-
存儲器
+關(guān)注
關(guān)注
38文章
7643瀏覽量
166876 -
自動駕駛
+關(guān)注
關(guān)注
788文章
14266瀏覽量
170207 -
GDDR6
+關(guān)注
關(guān)注
0文章
52瀏覽量
11476 -
AI芯片
+關(guān)注
關(guān)注
17文章
1978瀏覽量
35787 -
ChatGPT
+關(guān)注
關(guān)注
29文章
1589瀏覽量
8969
原文標(biāo)題:億分享 | 把握AIGC浪潮,億鑄科技領(lǐng)航AI大算力芯片產(chǎn)業(yè)未來
文章出處:【微信號:億鑄科技,微信公眾號:億鑄科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
億鑄科技入圍工信部算力強基揭榜行動
軟通智算完成超億級A輪融資,加速AI算力產(chǎn)業(yè)布局
大算力芯片的生態(tài)突圍與算力革命
億鑄科技亮相2025中國移動云智算大會

DeepSeek推動AI算力需求:800G光模塊的關(guān)鍵作用

評論