新聞中心
當(dāng)前位置:網(wǎng)站首頁 > 新聞中心
5G成為邊緣計算的較強推動力
邊緣計算是數(shù)字世界中最令人興奮的新概念之一。利用占用空間很少的微型數(shù)據(jù)中心網(wǎng)絡(luò),邊緣計算使系統(tǒng)能夠?qū)崟r收集并分析重要數(shù)據(jù),而不會增加現(xiàn)有基礎(chǔ)設(shè)施的負擔(dān)。
在物聯(lián)網(wǎng)系統(tǒng)中,通常以端到端的方式,在特定的高度傳感器密集型環(huán)境中獲得大量數(shù)據(jù),且數(shù)據(jù)是在邊緣生成并處理的,以降低延遲并減輕數(shù)據(jù)中心的負載。此前,邊緣計算的重點是連接在物聯(lián)網(wǎng)上的設(shè)備的技術(shù),比如工業(yè)機器人。
不過,隨著技術(shù)的不斷發(fā)展,大數(shù)據(jù)、IoT 和AI的組合帶來了無限潛力,對于邊緣計算的需求已經(jīng)從解決由IoT生成的數(shù)據(jù)增長而導(dǎo)致的數(shù)據(jù)長距離傳輸?shù)膸挸杀締栴},進化至處理實時應(yīng)用程序。在這類組合中,邊緣計算需要滿足低延遲、加速實時創(chuàng)建和支持應(yīng)用。
什么是邊緣計算?
邊緣計算有很多術(shù)語,包括“邊緣云計算”和“霧計算”?!斑吘売嬎恪北旧硗ǔ1幻枋鰹樵诒镜胤?wù)器上運行的應(yīng)用,旨在讓云進程更靠近終端設(shè)備。
“企業(yè)計算”與邊緣計算類似,但更傾向于準(zhǔn)確地描述網(wǎng)絡(luò)功能,卻非描述計算的位置。“霧計算”概念是由Cisco創(chuàng)造的,許多人將其定義為位于邊緣計算空間上下的計算,甚至作為邊緣計算的一個子集。
作為參考,端點設(shè)備和端點通常被稱為“邊緣設(shè)備”,以免與邊緣計算相混淆。邊緣計算可以采用多種形式,包括小型聚合器、本地服務(wù)器或微型數(shù)據(jù)中心。微型數(shù)據(jù)中心可以按區(qū)域分布在永久性或可移動的存儲容器中。
邊緣計算的價值
一般來說,傳感器、攝像頭、麥克風(fēng)以及一系列不同的物聯(lián)網(wǎng)和移動設(shè)備從其所在位置收集數(shù)據(jù),再發(fā)送到集中式數(shù)據(jù)中心或云中。
數(shù)據(jù)顯示,到2020年,全世界會有超過500億臺智能設(shè)備實現(xiàn)連接。這些設(shè)備每年將產(chǎn)生以澤字節(jié)(ZB)計算的數(shù)據(jù),到2025年將增長到150 ZB以上。這些數(shù)據(jù)發(fā)送到云會帶來一些重大問題。
首先,150ZB的數(shù)據(jù)會造成容量問題。其次,將大量數(shù)據(jù)從其原始位置傳輸?shù)郊惺綌?shù)據(jù)中心代價高昂。據(jù)估計,目前只有12%的數(shù)據(jù)得到了分析處理,而只有3%的數(shù)據(jù)有助于產(chǎn)生有意義的結(jié)果,剩余97%的數(shù)據(jù)在收集和傳輸之后,就被浪費了。第三,存儲、傳輸和分析數(shù)據(jù)能耗巨大。因此,我們需要找到一種有效的方法來降低成本并減少浪費。
引入邊緣計算,在本地存儲數(shù)據(jù),可以降低傳輸成本。同時,利用AI功能也能夠消除數(shù)據(jù)浪費。例如,現(xiàn)在正在使用中的新型低功耗邊緣計算服務(wù)器CPU,它們以GPU和ASIC或一系列芯片的形式連接到AI加速 SoC。
除了解決容量、能源和成本問題外,邊緣計算還可以提高網(wǎng)絡(luò)可靠性,因為應(yīng)用可以在發(fā)生普遍的網(wǎng)絡(luò)中斷期間繼續(xù)運行,通過清除某些威脅配置文件(例如全局數(shù)據(jù)中心拒絕服務(wù) (DoS) 攻擊),可以提高安全性。
最重要的是,邊緣計算能夠為實時場景(例如虛擬現(xiàn)實商場、移動設(shè)備視頻緩存)縮減延遲,同時在自動駕駛汽車、游戲平臺或快節(jié)奏制造等環(huán)境中創(chuàng)造許多新的應(yīng)用機會。
5G成為邊緣計算的最強推動力
5G基礎(chǔ)架構(gòu)是邊緣計算最具說服力的驅(qū)動力之一。5G電信提供商發(fā)現(xiàn),除了傳統(tǒng)的數(shù)據(jù)和語音連接之外,他們還可以構(gòu)建生態(tài)系統(tǒng)以托管獨特的本地應(yīng)用。通過將服務(wù)器置于基站旁邊,蜂窩流量提供商可以向第三方主機應(yīng)用開放其網(wǎng)絡(luò),從而改善帶寬和延遲。
Credence Research認為,到2026年,整個邊緣計算市場的價值將為96億美元左右。相比之下,Research and Markets分析認為,移動邊緣計算市場將從今天的幾億美元增長到2026年的超過27.7億美元。盡管電信行業(yè)可能是發(fā)展最快的增長動力,但是據(jù)估計,它們僅會占據(jù)邊緣計算市場總量的三分之一。這是因為web scale、工業(yè)和企業(yè)集團也將為其傳統(tǒng)市場提供邊緣計算硬件、軟件和服務(wù),期望邊緣計算也將開創(chuàng)新的應(yīng)用機遇。
比如目前大眾快餐店的廚房正朝著更加自動化的方向發(fā)展,以確保食品質(zhì)量,減少員工培訓(xùn),提高運營效率并確??蛻趔w驗達到預(yù)期。Chick-fil-A 是一家連鎖快餐企業(yè),2018 年 他們宣稱: “通過提高廚房設(shè)備智能化,我們能夠收集更多數(shù)據(jù)。通過這些數(shù)據(jù),我們可以構(gòu)建更多智能系統(tǒng),進而拓展業(yè)務(wù)?!?他們還指出,在邊緣計算的幫助下,許多餐廳現(xiàn)在可以處理的業(yè)務(wù)量提高到之前的三倍。
總體而言,成功的邊緣計算基礎(chǔ)架構(gòu)需要結(jié)合本地服務(wù)器計算功能、AI 計算功能以及與移動/汽車/IoT 計算系統(tǒng)的連接。
用實例了解邊緣計算
為了解使用邊緣計算帶來的延遲改善優(yōu)勢,羅格斯大學(xué)和 Inria 使用 Microsoft HoloLens分析了邊緣計算(或稱“邊緣云”)的可擴展性和性能。
在案例中,HoloLens 讀取條形碼掃描儀,然后使用建筑物中的場景分割功能將用戶導(dǎo)航到指定房間,并在 Hololens 上顯示箭頭。該過程同時使用了映射坐標(biāo)的小數(shù)據(jù)包和連續(xù)視頻的較大數(shù)據(jù)包,以驗證邊緣計算與傳統(tǒng)云計算相比延遲的改善。HoloLens 先讀取二維碼,然后將映射坐標(biāo)數(shù)據(jù)發(fā)送到邊緣服務(wù)器,該服務(wù)器使用了 4 個字節(jié)加上標(biāo)頭,花費了 1.2 毫秒 (ms),服務(wù)器找到坐標(biāo),并通知用戶該位置,總共耗時 16.22 ms。如果將同樣的數(shù)據(jù)包發(fā)送到云,則大約需要80ms。
同樣,他們還測試了在使用 OpenCV 進行場景分割以將 Hololens 的用戶導(dǎo)航到適當(dāng)位置時的延遲。HoloLens 以 30 fps 的速度流傳輸視頻,并在邊緣計算服務(wù)器中以 3.33 GHz 的頻率在配備 15GB RAM 的 Intel i7 CPU 上處理圖像。將數(shù)據(jù)流傳輸?shù)竭吘売嬎惴?wù)器需要 4.9 ms,處理 OpenCV 圖像額外花費了 37 ms,總計 47.7 ms。云服務(wù)器上的相同過程花費了將近 115 ms,清楚顯示了邊緣計算降低延遲的明顯優(yōu)勢。
該案例研究顯示了邊緣計算在降低延遲方面的顯著優(yōu)勢,但是未來還會有更多新技術(shù)可以更好地實現(xiàn)低延遲。
5G 概述了當(dāng)今延遲少于 1ms 的案例,而 6G 已經(jīng)在討論將其降低到 10 微秒 (μs) 的問題。5G 和 Wi-Fi 6 會增加連接帶寬,其中5G 預(yù)計將帶寬提高到 10Gbps,而 Wi-Fi 6 已經(jīng)支持 2Gbps 帶寬。AI 加速器聲稱場景分割的時間少于 20μs,這與上述示例技術(shù)論文中引用的 Intel i7 CPU 在大約 20ms 內(nèi)處理每個幀的速度相比,又有了顯著進步。
顯然,如果邊緣計算表現(xiàn)的比云計算更具優(yōu)勢,那么將計算全都轉(zhuǎn)移到邊緣設(shè)備中不是最好的解決方案嗎?很不幸,目前并不是所有的應(yīng)用程序都是如此。在 HoloLens 案例研究中,如果數(shù)據(jù)使用的 SQL 數(shù)據(jù)庫太大,則無法存儲在耳機中。今天的邊緣設(shè)備,特別是發(fā)生物理磨損的設(shè)備,沒有足夠的計算能力來處理大型數(shù)據(jù)集。除了計算能力之外,云或邊緣服務(wù)器上的軟件比邊緣設(shè)備上的軟件開發(fā)成本更低,因為云/邊緣軟件不需要壓縮到更小的內(nèi)存資源和計算資源中。
由于某些應(yīng)用程序可以根據(jù)基礎(chǔ)架構(gòu)不同位置的計算能力、存儲能力、存儲器可用性和延遲能力來合理地運行,因此無論是在云中、在邊緣服務(wù)器還是在邊緣設(shè)備中,未來的趨勢是混合計算能力,邊緣計算是建立全球混合計算基礎(chǔ)架構(gòu)的第一步。
邊緣計算與AI
許多使用邊緣計算的新服務(wù)都有低延遲需求,因此許多新系統(tǒng)都采用了最新的行業(yè)接口標(biāo)準(zhǔn),包括PCIe 5.0、LPDDR5、DDR5、HBM2e、USB 3.2、CXL、基于PCIe的NVMe以及其他基于新一代標(biāo)準(zhǔn)的技術(shù)。與上一代產(chǎn)品相比,這些技術(shù)都通過改進帶寬來降低延遲。
這些邊緣計算系統(tǒng)還增加了AI加速功能。例如,某些服務(wù)器芯片通過x86擴展AVX-512向量神經(jīng)網(wǎng)絡(luò)指令 (AVX512 VNNI)等新指令提供AI加速。
除此之外,大多數(shù)新系統(tǒng)中還添加了自定義AI加速器。這些芯片所需的連接性通常采用帶寬最高的主機來實現(xiàn)加速器連接。例如,在具有多個AI加速器的某種交換配置中,由于帶寬要求影響了延遲,因此很多系統(tǒng)中采用了PCIe 5.0接口。
除了本地網(wǎng)關(guān)和聚合服務(wù)器系統(tǒng)之外,單個AI加速器通常無法提供足夠的性能,所以需要借助帶寬非常高的芯片到芯片SerDes PHY來擴展這些加速器。最新發(fā)布的PHY支持56G和112G連接。
AI算法正在突破內(nèi)存帶寬要求的極限。例如,最新的BERT和GPT-2型號分別需要345M和1.5B參數(shù),為了滿足這些需求,不僅需要高容量的內(nèi)存能力,還需把許多復(fù)雜的應(yīng)用放在邊緣云中執(zhí)行。為了實現(xiàn)這種能力,設(shè)計人員正在新的芯片組中采用DDR5。除了容量挑戰(zhàn)之外,還需要存取AI算法的系數(shù),以進行非線性序列中并行執(zhí)行的大量多次累加計算。因此,HBM2e也成為一種被迅速采用的新技術(shù),有些芯片實現(xiàn)了單芯片中的數(shù)次HBM2e實例化。
未來,邊緣計算的需求將集中在降低延遲和功率,確保有足夠的處理能力來處理特定任務(wù)上。新一代服務(wù)器SoC解決方案不僅將具有更低的延遲和更低的功耗,而且還將納入AI功能,也就是AI加速器。
但是很明顯,AI和邊緣計算的需求也在迅速變化,我們今天看到的許多解決方案在過去兩年中已多次取得了進步,并將繼續(xù)加以改進。
結(jié)語
Futuriom曾在《5G,物聯(lián)網(wǎng)和邊緣計算趨勢》中寫道,5G將成為邊緣計算技術(shù)的催化劑,使用5G技術(shù)的應(yīng)用將改變流量需求模式,為移動蜂窩網(wǎng)絡(luò)的邊緣計算提供最大的推動力。
總的來說,邊緣計算是實現(xiàn)數(shù)據(jù)快速連接的一項重要技術(shù),它將云服務(wù)更靠近邊緣設(shè)備,降低延遲,為消費者提供新的應(yīng)用和服務(wù);還將衍生出更多的AI功能,將其擴展到云以外。此外,它還將成為支持未來混合計算的基礎(chǔ)技術(shù)。
作者:半導(dǎo)體行業(yè)觀察? 來源:中國IDC圈
|