電子發(fā)燒友網(wǎng)報道(文/黃晶晶)今年初,微軟推出引入Copilot功能的全新個人電腦,Copilot作為AI語音助手被確定為AI PC不可或缺的按鍵以及功能,它能夠在不需要云數(shù)據(jù)中心的情況下處理本地的人工智能任務(wù)。同時,微軟還提出,這款全新電腦搭配擁有全新神經(jīng)處理單元NPU的芯片,可實現(xiàn)每秒超過40萬億次即40+TOPS的運算。那么也就是說,若要符合微軟給出的AI PC的定義,NPU的算力至少要達到40 TOPS。
這一定義的拋出,突顯了NPU的重要性。半導體大廠們普遍認為CPU+GPU+NPU的組合將是AI PC的算力基座。
《AI PC產(chǎn)業(yè)白皮書》中指出AI PC五大特性,包括提供多模態(tài)自然語言交互、終端內(nèi)嵌個人的大模型、標配本地混合AI算力、連接開放的AI應用生態(tài)、設(shè)備級個人數(shù)據(jù)和隱私安全保護。尤其是本地混合AI算力,即CPU+GPU+NPU異構(gòu)混合算力保證了AIPC本地推理的可行性,同時隨著端側(cè)算力的快速提升,AIPC可以承載更大的AI模型,執(zhí)行更加復雜的任務(wù)。
在分工上,CPU是計算機的運算核心和控制核心,GPU進行圖形處理和大規(guī)模并發(fā)計算,NPU提供高效能和低功耗的神經(jīng)網(wǎng)絡(luò)運算支持,在多種應用場景中實用智能計算。三者的組合發(fā)揮各自的優(yōu)勢,協(xié)同工作,高效實現(xiàn)端側(cè)AI的能力。
不過,當前來看NPU別說是多少算力的問題,甚至很多設(shè)備都還沒有NPU。以安卓平臺來看,目前70%的第三方 ML/AI 應用運行在CPU上,特別是一些低級別設(shè)備很難承擔NPU的費用,CPU+GPU+NPU的組合或許要從高端設(shè)備開始。
AI PC的演進過程中,《白皮書》指出應分為AIReady階段和AIOn階段。在AIReady階段,AIPC主要表現(xiàn)為芯片計算架構(gòu)的升級,具備基本的本地混合AI算力,能夠為AIPC的軟件及服務(wù)創(chuàng)新提供基本保障,開啟體驗創(chuàng)新。
如今,NPU以及高算力NPU的導入已經(jīng)開始。英特爾、AMD、蘋果、高通等廠商紛紛推出了帶有NPU的處理器產(chǎn)品,不少新產(chǎn)品的NPU算力都達到40 TOPS,高算力應對復雜且眾多的本地AI大模型需求,為迎接AI PC的應用爆發(fā)做好準備。
英特爾
去年12月,英特爾正式發(fā)布酷睿Ultra處理器。它是首款基于 Intel 4 制程工藝打造的處理器,代表了40年來英特爾架構(gòu)最大的革新。采用了先進的Foveros 3D 封裝技術(shù),在 CPU、GPU 和神經(jīng)網(wǎng)絡(luò)處理單元(NPU)的架構(gòu)中集成了專屬 AI 加速功能,從而成為英特爾歷史上 AI 性能最強、能效最佳的客戶端處理器。英特爾方面還宣布,將與主流 OEM 伙伴推出 230 余款機型,開啟AI PC新紀元。
根據(jù)英特爾的酷睿 Ultra 產(chǎn)品路線圖,2023年為Meteor Lake,2024年將有Lunar Lake、Arrow Lake,2025年為Panther Lake,2026年Future Products還沒有具體架構(gòu)代號。其中Lunar Lake采用臺積電3nm工藝,NPU性能將是上一代的4倍,達到48 TOPS,滿足 Copilot+ 需求。
另外,英特爾將于年內(nèi)發(fā)布Arrow Lake處理器。報道稱,Arrow Lake涵蓋了臺式機和筆記本電腦產(chǎn)品的多個細分平臺,其中“S”用于臺式機并采用LGA 1851插座,“HX”用于發(fā)燒級游戲本,算力方面,Arrow Lake-S和Arrow Lake-HX提供AI算力達37 TOPS,其中Arrow Lake-S/HX的GPU在新架構(gòu)加持下,AI算力從3 TOPS提高到9 TOPS;內(nèi)置的NPU提供13 TOPS的AI算力。
AMD
AMD于2023年5月推出的銳龍7040系列是全球首款內(nèi)置XDNA架構(gòu)NPU的X86處理器,同年12月推出銳龍8040系列移動處理器,提供高達16TOPS的NPU算力和39 TOPS的整體算力,相較上一代帶來60%的AI性能提升。
在今年6月的臺北電腦展上,AMD重磅發(fā)布了Ryzen AI 300 系列處理器,采用Zen 5架構(gòu)、第三代AMD Ryzen AI,內(nèi)置XDNA2 NPU,GPU升級為RDNA 3.5。
作為一款專為AI PC打造的處理器,其NPU算力可達50 TOPS,相較而言上一代Ryzen 8040系列芯片只有16 TOPS。
可以看到,這款處理器的亮點之一就在于NPU算力的大幅提升。AMD表示,XDNA2 NPU的計算能力提供5倍多,多任務(wù)并行能力翻一番,能效提升最多2倍。并且,XDNA2首次引入全新的Block FP16浮點精度,傳統(tǒng)的8-bit INT8數(shù)據(jù)類型性能強但準確性低,16-bit FP16數(shù)據(jù)類型準確性高但性能弱。FP16 NPU可兼顧兩者的性能與準確性,目前大多數(shù)AI應用都采用了16-bit精度。另外,AMD已經(jīng)與超過150家AI賦能的ISV合作伙伴達成深度合作,進而為AMD Ryzen AI提供兼容性更好、性能體驗更好的各類型AI應用。
蘋果
2023年,蘋果A17 Pro處理器對整塊芯片進行了全方位提升,包括 Apple 有史以來最大規(guī)模重新設(shè)計的圖形處理器。通過微架構(gòu)和設(shè)計上的改進,全新的中央處理器實現(xiàn)了多達 10% 的速度提升,神經(jīng)網(wǎng)絡(luò)引擎的速度也提升多達 2 倍。采用臺積電3nm工藝制程,其NPU擁有16核心,性能達到35 TOPS。
今年5月,蘋果發(fā)布的11英寸和13英寸iPad Pro搭載了M4處理器,該處理器基于臺積電第二代3nm工藝,擁有280億個晶體管,NPU算力從18TOPS提升到38 TOPS。
在前不久的蘋果全球開發(fā)者大會(WWDC)上,蘋果宣布了全新的AI系統(tǒng)Apple Intelligence。要提升系統(tǒng)的AI能力,NPU的升級必不可少。今年9月蘋果全新一代iPhone 16 Pro將配備最新的A18芯片,據(jù)悉臺積電啟動2nm芯片試產(chǎn),蘋果A18性能或提升30%,而在NPU性能上,有消息稱A18有望超越蘋果自家的M4處理器,可能達到45TOPS。
高通
此次微軟首批Copilot+PC,搭載高通驍龍(Snapdragon)X Elite 芯片。高通于2023年推出為AI PC設(shè)計的驍龍 X Elite 處理器,該處理器集成高通定制 Oryon CPU,基于 4nm 工藝打造,采用 12 顆 3.8GHz 大核,全新 Hexagon NPU 最高可提供 45 TOP(每秒萬億次運算)算力,并且可以在設(shè)備上以“驚人的速度”運行超過 13B 參數(shù)的生成式 AI LLM(大型語言模型)。首批搭載驍龍X Elite 芯片的PC制造商包括榮耀、聯(lián)想、小米等。
此外,消息稱,聯(lián)發(fā)科與英偉達聯(lián)手研發(fā)Arm架構(gòu)AI PC處理器,新款芯片將對標蘋果M4,預計2024年第三季度完成設(shè)計,第四季度進入驗證階段,將采用臺積電3nm工藝制造,并計劃2025年發(fā)布。
小結(jié):
微軟給AI PC劃了一條NPU算力的“紅線”,基于微軟強大的生態(tài)號召力,AI PC處理器廠商都十分重視NPU性能的提升,當然這也有利于后續(xù)AI PC上端側(cè)AI真正的應用普及。40+ TOPS NPU也許會成為今后用戶購買AI PC的一個必選項。
-
處理器
+關(guān)注
關(guān)注
68文章
19869瀏覽量
234527 -
AI
+關(guān)注
關(guān)注
88文章
34912瀏覽量
277919 -
NPU
+關(guān)注
關(guān)注
2文章
326瀏覽量
19662 -
算力
+關(guān)注
關(guān)注
2文章
1182瀏覽量
15584 -
AI PC
+關(guān)注
關(guān)注
0文章
135瀏覽量
466
發(fā)布評論請先 登錄
芯原超低能耗NPU可為移動端大語言模型推理提供超40 TOPS算力
6TOPS算力NPU加持!RK3588如何重塑8K顯示的邊緣計算新邊界
迅為iTOP-RK3588S開發(fā)板/核心板瑞芯微RK3588S處理器6TOPS算力內(nèi)置NPU
邊緣AI協(xié)處理開發(fā)指南:USB+NPU混合計算與實時視頻分析實戰(zhàn)?
迅為iTOP-RK3588S開發(fā)板/核心板6TOPS的NPU算力視頻編解碼8K編碼+8K解碼
迅為瑞芯微RK3562開發(fā)板主頻2.0內(nèi)置NPU算力達1TOPS,核心板擴展更多功能
【NVIDIA生態(tài)】具有100 TOPS強勁算力的AIBOX!

【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽
超緊湊模塊提供高達 39 TOPS AI 算力

名單公布!【書籍評測活動NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析
ARMxy工業(yè)控制器為視頻監(jiān)控提供1Tops算力支持

用ARMxy ARM工業(yè)控制器自帶的1Tops算力實現(xiàn)高性能圖像處理

刷新AI PC NPU算力,AMD銳龍AI 9 HX 375領(lǐng)銜55 TOPS

前沿情報局 | 合眾恒躍HZHY-AI500G集成Hailo-8?智能算力模塊,超高算力助力邊緣設(shè)備實現(xiàn)高性能人工智能!

評論