GPT-4 是世界首個最接近AGI的先進AI系統(tǒng),展現(xiàn)出強大的“涌現(xiàn)能力”。GPT的成功,得益于其參數(shù)規(guī)模擴大, RLHF、Transformer、Prompt、插件、系統(tǒng)工程等方面的偉大創(chuàng)新。我們預計, ChatGPT將對科技產(chǎn)業(yè)產(chǎn)生深遠的影響,類似于操作系統(tǒng),ChatGPT將接入現(xiàn)有的全部軟硬件系統(tǒng)。GPT-4的誕生將加速AGI時代的到來,開啟科技“十年新周期”。
AI算力:科技企業(yè)大模型競賽的核心“裝備”,AIGC應用的關鍵基建 Transfomer架構大模型訓練對算力的消耗呈指數(shù)級增長。2023年1月,ChatGPT計劃再向微軟融資100億美金,該融資將是新一代大模型算力基建的主要資金來源。ChatGPT激發(fā)“鯰魚效應”,全球科技巨頭將AI戰(zhàn)略提升到空前高度,算力作為新一輪科技競賽的核心“裝備”,迎來需求的脈沖式增長。未來,ChatGPT應用的全面落地還將釋放更為廣闊的算力需求。 計算是AI算力的核心引擎,存儲、網(wǎng)絡、軟件是AI算力的主要發(fā)展方向 1)計算:GPU是ChatGPT訓練和推理的核心支柱,其更新速度遠超過“摩爾定律” ,受益于AI和高性能市場需求增長,GPU行業(yè)景氣度顯著提升。AI服務器作為GPU的重要載體,預計其市場規(guī)模、滲透率將隨著GPU放量迎來同步高增。 2)網(wǎng)絡:已成為限制AI算力提升的主要瓶頸,英偉達推出InfiniBand架構下的NVLink、NVSwtich等方案,將GPU之間的通信能力上升到新高度。而800G、1.6T高端光模塊作為AI訓練的上游核心器件,將受益于大模型訓練需求的增長。
3)存儲:“內(nèi)存墻”是制約算力提升的重要因素。NAND、DRAM等核心存儲器在制程方面臨近極限,不斷探索“3D”等多維解決方案。HBM基于其高寬帶特性,成為了高性能GPU的核心組件,市場前景廣闊。
-
AI
+關注
關注
88文章
34917瀏覽量
278029 -
算力
+關注
關注
2文章
1184瀏覽量
15590 -
大模型
+關注
關注
2文章
3111瀏覽量
4009
原文標題:AI算力研究框架(2023)
文章出處:【微信號:AI_Architect,微信公眾號:智能計算芯世界】歡迎添加關注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
華為發(fā)布全球算力最強AI處理器,芯片昇騰910問世!
DeepSeek推動AI算力需求:800G光模塊的關鍵作用

評論