機(jī)器學(xué)習(xí)是大多數(shù)AI應(yīng)用的核心,負(fù)責(zé)教計(jì)算機(jī)學(xué)會(huì)識(shí)別數(shù)據(jù)中的模式。更具體地來(lái)說(shuō),其目標(biāo)就是創(chuàng)建訓(xùn)練有素的模型。這可以通過(guò)監(jiān)督學(xué)習(xí)來(lái)完成,這種學(xué)習(xí)方式向計(jì)算機(jī)提供學(xué)習(xí)實(shí)例。另外,這個(gè)過(guò)程也可以不受監(jiān)督——計(jì)算機(jī)只是在數(shù)據(jù)中尋找其關(guān)心的模式。還有涉及連續(xù)學(xué)習(xí)或持續(xù)學(xué)習(xí)的技術(shù),這些技術(shù)可以使計(jì)算機(jī)從錯(cuò)誤中吸取教訓(xùn),但這些不在本文討論范圍之內(nèi)。
運(yùn)行您的ML模型
一旦建成了ML模型,便可以將其應(yīng)用于手頭的工作。模型可用于預(yù)測(cè)未來(lái)事件、識(shí)別異常,以及進(jìn)行圖像或語(yǔ)音識(shí)別。幾乎在所有情況下,模型都依賴(lài)于大型深層樹(shù)狀結(jié)構(gòu),并且需要大量的算力才能運(yùn)行。對(duì)于通常基于人工神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像和語(yǔ)音識(shí)別的模型而言尤其如此。神經(jīng)網(wǎng)絡(luò)創(chuàng)建稠密網(wǎng)格,因此需要在高度并行化的硬件(通常基于GPU)上運(yùn)行。直到最近,也只有AWS或Azure等云服務(wù)提供商才有實(shí)力提供此類(lèi)功能。
為了讓您對(duì)所需的算力有個(gè)概念,下表列示了AWS P3實(shí)例的規(guī)格,這是一個(gè)針對(duì)ML應(yīng)用進(jìn)行了優(yōu)化的處理平臺(tái)
類(lèi)型 | GPU | vCPU | RAM | GPU RAM | 存儲(chǔ)BW | 網(wǎng)絡(luò)BW |
P3.2XL | 1 | 8 | 61GB | 16GB | 1.5Gbps | ~10Gbps |
P3.8XL | 4 | 32 | 244GB | 64GB | 7Gbps | 10Gbps |
P3.16XL | 8 | 64 | 488GB | 128GB | 14Gbps | 25Gbps |
P3.24XL | 8 | 96 | 768GB | 256GB | 19Gbps | 100Gbps |
表1:AWS P3實(shí)例規(guī)格
這些都是頂配機(jī)型。它們具備大容量RAM,以及極快的網(wǎng)絡(luò)和存儲(chǔ)訪問(wèn)權(quán)限。最重要的是,它們具有強(qiáng)大的CPU和GPU處理能力,正是這一要求使ML模型在網(wǎng)絡(luò)邊緣運(yùn)行成為了真正的挑戰(zhàn)。
集中式AI的缺點(diǎn)
目前為止,由于ML模型難以在網(wǎng)絡(luò)邊緣運(yùn)行,因此大多數(shù)最著名的AI應(yīng)用都依賴(lài)于云。但是,這種對(duì)云計(jì)算的依賴(lài)給AI的使用帶來(lái)了一些限制。下面列出了集中式AI在運(yùn)行方面的一些缺陷。
有些應(yīng)用無(wú)法在云端運(yùn)行
為了在云端運(yùn)行AI,需要有容量足夠的可靠網(wǎng)絡(luò)連接。如果沒(méi)有這種條件,則可能由于缺乏基礎(chǔ)設(shè)施,有些AI應(yīng)用不得不在本地運(yùn)行。換言之,只有能夠在邊緣運(yùn)行ML模型,這些應(yīng)用才能正常工作。
以自動(dòng)駕駛汽車(chē)為例。它需要完成許多依賴(lài)于機(jī)器學(xué)習(xí)的任務(wù)。這些任務(wù)中最重要的是探測(cè)和規(guī)避物體。這要求ML模型要有相當(dāng)大的算力。但是,即使是聯(lián)網(wǎng)汽車(chē)也只有較低的連接帶寬,這些連接還并不一致(盡管5G可能會(huì)改善這一點(diǎn))。
在為采礦和其他重工業(yè)創(chuàng)建智能物聯(lián)網(wǎng)監(jiān)控系統(tǒng)時(shí),同樣存在這種限制。通常在本地會(huì)有快速網(wǎng)絡(luò),但是互聯(lián)網(wǎng)連接可能會(huì)依賴(lài)于衛(wèi)星上行鏈路。
延遲是關(guān)鍵
許多ML應(yīng)用需要實(shí)時(shí)工作。上面提到的自動(dòng)駕駛汽車(chē)就是此類(lèi)應(yīng)用,另外還有實(shí)時(shí)面部識(shí)別等應(yīng)用。它可以用于門(mén)禁系統(tǒng)或安保措施;例如,警察經(jīng)常使用這項(xiàng)技術(shù)監(jiān)視體育賽事和其他活動(dòng)中的人群,以找出已知的鬧事者。
AI也越來(lái)越多地用于打造智能醫(yī)療設(shè)備。其中一些需要實(shí)時(shí)工作才能發(fā)揮真正的作用,但是連接到數(shù)據(jù)中心的平均往返時(shí)間約在10到100毫秒之間。因此,如果不將ML模型轉(zhuǎn)移到網(wǎng)絡(luò)邊緣,就很難實(shí)現(xiàn)實(shí)時(shí)應(yīng)用。
安全性可能會(huì)成為問(wèn)題
許多ML應(yīng)用會(huì)處理安全數(shù)據(jù)或敏感數(shù)據(jù)。顯然,這類(lèi)數(shù)據(jù)可以通過(guò)網(wǎng)絡(luò)發(fā)送,并被安全存儲(chǔ)到云端。但是,當(dāng)?shù)卣咄ǔ=惯@樣做。健康數(shù)據(jù)尤其敏感,許多國(guó)家對(duì)發(fā)送到云服務(wù)器這一做法有著嚴(yán)格的法規(guī)要求。總之,確保僅連接到本地網(wǎng)絡(luò)的設(shè)備的安全性永遠(yuǎn)更加容易。
成本
訂購(gòu)ML優(yōu)化的云實(shí)例可能會(huì)非常昂貴 - 表1中所示的最低規(guī)格實(shí)例每小時(shí)花費(fèi)約3美元。許多云提供商會(huì)收取額外的費(fèi)用,例如用于存儲(chǔ)和網(wǎng)絡(luò)訪問(wèn)的費(fèi)用,這筆費(fèi)用也要考慮在內(nèi)。實(shí)際上,運(yùn)行一個(gè)AI應(yīng)用每月可能要花費(fèi)高達(dá)3,000美元。
結(jié)論
實(shí)現(xiàn)成功的機(jī)器學(xué)習(xí)通常需要具有強(qiáng)大算力的基于云或服務(wù)器的資源。但是,隨著應(yīng)用的發(fā)展和新用例的出現(xiàn),將機(jī)器學(xué)習(xí)轉(zhuǎn)移到網(wǎng)絡(luò)邊緣變得更加引人注目,尤其是在需要優(yōu)先考慮延遲、安全性和實(shí)現(xiàn)成本等因素的情況下。
審核編輯:郭婷
-
服務(wù)器
+關(guān)注
關(guān)注
13文章
9748瀏覽量
87536 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8499瀏覽量
134310 -
自動(dòng)駕駛
+關(guān)注
關(guān)注
788文章
14260瀏覽量
170118
發(fā)布評(píng)論請(qǐng)先 登錄
詳解一步一步設(shè)計(jì)開(kāi)關(guān)電源
構(gòu)建一種低功耗小基站和適變型邊緣計(jì)算MEC網(wǎng)絡(luò)平臺(tái)
一步一步基于ADS進(jìn)行設(shè)計(jì)開(kāi)發(fā)
歐洲發(fā)射四顆歐洲伽利略全球?qū)Ш叫l(wèi)星 距全球定位系統(tǒng)更近一步
人類(lèi)距離拓?fù)淞孔佑?jì)算更近了一步
邊緣計(jì)算技術(shù)怎么實(shí)現(xiàn)
華為推出新功能,鴻蒙系統(tǒng)將更進(jìn)一步
5G走向商用 邊緣計(jì)算的風(fēng)口來(lái)了
臺(tái)積電計(jì)劃在美國(guó)亞利桑那州設(shè)立子公司,離建5nm廠更近一步
將機(jī)器學(xué)習(xí)轉(zhuǎn)移到網(wǎng)絡(luò)邊緣變得引人注目

一步一步教你用Zview擬合交流阻抗譜

XVF3510 下一代語(yǔ)音處理器,離聲控一切更近一步

一步一步學(xué)會(huì)使用Channel Analysis

評(píng)論