瘋狂的H100：現(xiàn)代GPU體系結(jié)構(gòu)淺析，從算力焦慮開始聊起

昂貴 H100 的一時(shí)洛陽紙貴，供不應(yīng)求，大模型訓(xùn)練究竟需要多少張卡呢？GPT-4 很有可能是在 10000 到 20000 張 A100 的基礎(chǔ)上訓(xùn)練...

2023-10-29 標(biāo)簽：gpuAI芯片算力 1.2萬 0

一文詳解多模態(tài)大模型發(fā)展及高頻因子計(jì)算加速GPU算力 | 英偉達(dá)顯卡被限，華為如何力挽狂瀾？

近年來，全球范圍內(nèi)的芯片禁令不斷升級(jí)，給許多企業(yè)和科研機(jī)構(gòu)帶來了很大的困擾，需要在技術(shù)層面進(jìn)行創(chuàng)新和突破。一方面，可以探索使用國產(chǎn)芯片和其他不受限制的芯...

2023-10-26 標(biāo)簽：gpuAI算力 1689 0

汽車SoC核心軌道的電源解決方案

兩級(jí)轉(zhuǎn)換需要額外的半導(dǎo)體器件，但與單級(jí)解決方案相比，對于低至中功率SoC核心軌道來說，總體SoC電源解決方案可能更小、更便宜。系統(tǒng)設(shè)計(jì)師必須權(quán)衡所有因素...

2023-10-07 標(biāo)簽：控制器PWMsoc 850 0

2023年全年中國服務(wù)器市場ARM占比會(huì)超過10%

ARM架構(gòu)服務(wù)器已逐步成為通用計(jì)算領(lǐng)域新的選擇。 國內(nèi)ARM生態(tài)發(fā)展迅速，以鯤鵬為代表的ARM架構(gòu)服務(wù)器，市場份額快速提升，預(yù)計(jì)2023年全年中國服務(wù)器...

2023-09-26 標(biāo)簽：armcpu服務(wù)器 2532 0

常見的幾種負(fù)載均衡技術(shù)介紹

在大力建設(shè)算力網(wǎng)絡(luò)的大背景下，隨著SDN思潮的深入推進(jìn)、網(wǎng)絡(luò)集群的部署，負(fù)載均衡成為了一種不可或缺的技術(shù)，它在云，網(wǎng)，邊都起了至關(guān)重要的作用。本文會(huì)對常...

2023-09-25 標(biāo)簽：負(fù)載Linux負(fù)載均衡 2243 0

新型光纖關(guān)鍵技術(shù)探討：400G超高速光傳輸面臨哪些技術(shù)挑戰(zhàn)

400G時(shí)代，采用QPSK在傳統(tǒng)G.652D光纖基于EDFA放大可以傳輸1 500km以上，可以滿足絕大多數(shù)場景需求; G.654E光纖可以延長30%以...

2023-09-19 標(biāo)簽：光纖光通信光網(wǎng)絡(luò) 1305 0

谷歌Gemini被曝算力達(dá)GPT-4五倍，手握TPU王牌碾壓OpenAI

根據(jù)Patel和Nishball的說法，此前屢屢被爆料將成為GPT-4大殺器的谷歌Gemini，已經(jīng)開始在新的TPUv5 Pod上進(jìn)行訓(xùn)練了，算力高達(dá)~...

2023-09-04 標(biāo)簽：gpu算力OpenAI 1139 0

詳細(xì)解讀算網(wǎng)一體架構(gòu)及總體設(shè)計(jì)

“算網(wǎng)一體、智能內(nèi)生”將是未來網(wǎng)絡(luò)領(lǐng)域后續(xù)幾年最大的發(fā)展趨勢，算網(wǎng)一體是我國主導(dǎo)提出的原創(chuàng)技術(shù)體系，目前在算力路由、網(wǎng)絡(luò)數(shù)字孿生、在網(wǎng)計(jì)算等關(guān)鍵技術(shù)方向...

2023-09-01 標(biāo)簽：中國移動(dòng)算力數(shù)字孿生 1789 0

特斯拉的FSD芯片HW3和HW4的區(qū)別

HW3是特斯拉的自動(dòng)駕駛儀和全自動(dòng)駕駛（FSD）計(jì)算核心，包括了冗余系統(tǒng)。HW3的芯片由兩塊CPU組成，配備了高性能的LPDDR4 RAM。這些芯片處理...

2023-08-29 標(biāo)簽：芯片特斯拉自動(dòng)駕駛 4826 0

東風(fēng)至，數(shù)智生 | “算力+”發(fā)力工業(yè)互聯(lián)網(wǎng)，助迎新突破

大數(shù)據(jù)與人工智能的相互作用，共同催生了新一代“算力網(wǎng)絡(luò)”，并作為服務(wù)于物聯(lián)網(wǎng)領(lǐng)域的新一代重要信息基礎(chǔ)設(shè)施，成為賦能工業(yè)互聯(lián)網(wǎng)高速發(fā)展的“東風(fēng)”以及激發(fā)數(shù)...

2022-10-19 標(biāo)簽：AI算力 1159 0

淺談智慧海關(guān)建設(shè)中服務(wù)器的適切性

在復(fù)雜的國際科技競爭形勢下，海關(guān)需要加快提高軟硬件的持續(xù)創(chuàng)新能力，構(gòu)建全面高性能、高可靠、機(jī)制安全的技術(shù)架構(gòu)體系，建立起新一代智慧海關(guān)技術(shù)支撐平臺(tái)。其中...

2023-08-22 標(biāo)簽：arm服務(wù)器算力 957 0

算力技術(shù)未來發(fā)展路徑概述（2023）

DSA 針對特定領(lǐng)域的應(yīng)用采用高效的架構(gòu)，比如使用專用內(nèi)存最小化數(shù)據(jù)搬移、根據(jù)應(yīng)用特點(diǎn)把芯片資源更多側(cè)重于計(jì)算或存儲(chǔ)、簡化數(shù)據(jù)類型、使用特定編程語言和指令等等。

2023-08-03 標(biāo)簽：晶體管算力ChatGPT 1733 0

英偉達(dá) H100 vs 蘋果M2 大模型訓(xùn)練，哪款性價(jià)比更高？

訓(xùn)練和微調(diào)大型語言模型對于硬件資源的要求非常高。目前，主流的大模型訓(xùn)練硬件通常采用英特爾的CPU和英偉達(dá)的GPU。然而，最近蘋果的M2 Ultra芯片和...

2023-07-28 標(biāo)簽：英特爾蘋果AI 3740 0

“算力”的分層定義-初級(jí)算力

“算力”（Computility，也被稱為計(jì)算能力或計(jì)算力）通常而言是指計(jì)算機(jī)、服務(wù)器、GPU或其他硬件設(shè)備執(zhí)行計(jì)算任務(wù)的速度和能力。算力的英文名是co...

2023-07-27 標(biāo)簽：計(jì)算機(jī)算力 4077 0

Xilinx Zynq7035算力指標(biāo)

本文介紹廣州星嵌DSP?C6657+Xilinx Zynq7035平臺(tái)下Xilinx Zynq7035算力指標(biāo)。

2023-07-07 標(biāo)簽：dsp濾波器Xilinx 1717 0

CPU、GPU與算存互連的復(fù)雜比較與重要性分析

據(jù)科技部新一代人工智能發(fā)展研究中心發(fā)布的報(bào)告顯示，我國已發(fā)布79個(gè)參數(shù)規(guī)模超過10億的大模型，幾乎形成了百模大戰(zhàn)的局面。在大模型研發(fā)方面，中國14個(gè)省區(qū)...

2023-07-06 標(biāo)簽：cpugpu算力 1724 0

淺談AI算力基礎(chǔ)設(shè)施的架構(gòu)和平衡設(shè)計(jì)

現(xiàn)有算力體系，比如超算系統(tǒng)，主要針對的是HPC的應(yīng)用，而AI和HPC存在著一些區(qū)別。比如，HPC主要應(yīng)用于科學(xué)和工程計(jì)算，像天氣預(yù)報(bào)、核聚變模擬、飛行器...

2023-07-04 標(biāo)簽：人工智能HPC算力 1544 0