邊緣運算概要

作者 : Ron Martino、Robert Oshana,作者依序為恩智浦半導體執行副總裁暨邊緣處理事業部總經理、邊緣處理事業部軟體研發副總裁

以往只有雲端才擁有執行複雜分析所需的運算資源,但隨著更多連接應用的部署,雲端處理的侷限性愈加明顯…

通往邊緣之路

在物聯網(IoT)「早期」階段,資料的處理和大部分儲存均在雲端資料中心進行,因為只有雲端才擁有執行複雜分析所需的運算資源。但隨著更多連接應用的部署,雲端處理的侷限性愈加明顯。

其中一個限制是延遲——即源端感測器產生的資料穿越路徑送至雲端進行處理,然後再返回具有可操作性的結果,這期間所需的時間。幾毫秒的延遲在智慧型恆溫器中可能無關緊要,但工業機器人和其他即時系統,都需要更低的延遲時間以確保安全和生產力。現代車輛的安全性依賴於感測器,延遲可能就是生死攸關的問題。

即便是具有感測器的普通應用也會產生大量的資料,這些資料會在整個網路中消耗代價高昂的可用頻寬。雲端處理還可能會洩露敏感資訊,包括智慧財產(IP),這些資訊安全必須有保障。如今,安全性已成為物聯網的最關鍵要素之一。

目前較好的解決方案是在基於雲端的伺服器與位處資料產生端(通常稱為邊緣)的處理器之間分配處理任務。更準確地說,即網路的邊緣,或者從資料中心的角度來看,是遠距邊緣。請注意,某些處理始終在邊緣執行,主要是在閘道器中將感測器產生的資料彙整為標準格式,然後向外發送(圖1)。

 

圖1:邊緣運算的概念示意圖。恩智浦EdgeVerse邊緣處理解決方案涵蓋物聯網、工業和汽車市場。

 

然而,在這種新情境中,大量處理將在邊緣處理器上執行,以滿足需要幾近即時回應的即時應用需求。為了實現此一新情境,出現了幾種解決方案。

第一種方法是在靠近終端使用者位置的迷你資料中心以合理的方式執行高階處理。因為在附近,所以可大幅降低延遲。第二種方法將閘道器變成更強大的處理元件,運算馬力較低,但能夠進一步降低延遲。這兩種方法都不屬於小型,也無法降低功耗。

運算領域的最新進展(包括應用處理器和微控制器)讓邊緣的運算能力顯著提升。這些裝置現在可以執行機器學習,創造大量的邊緣應用程式,能夠跨越閘道器,直達感測器,以及介於之間的東西。

功能強大的微型引擎

微控制器和微處理器在提升效能和功能,以及降低成本方面取得了巨大進展。其可包括供特定任務專用的多個核心,支援數種無線協定,配置電源管理,並提供其他卓越功能。如今,其已經強大到足以根據從邊緣處多個感測器彙整的資料做出決策。

其可執行以前僅屬雲端的分析,幾乎毫無延遲地向機器發送命令,並且僅將資訊摘要(資料量大幅減少)傳輸到雲端。例如,智慧型門鎖可以認識人員而在辨識出臉部後打開門鎖,並且可以在本機儲存並處理影像資料,以加快回應速度並增強隱私保護。

這種新方法對物聯網而言非常重要,因而將其命名為:TinyML。其將深度學習網路縮小到適合整合在微控制器上。這個概念並不新鮮,智慧型手機具有神經網路,可以實現音樂識別、多種相機模式和各種其他功能,甚至在智慧手錶中亦是如此。

但直到最近,TinyML才應用於邊緣運算。

能效運算

許多現代微控制器設計為低功耗運作,因此這些裝置在邊緣裝置上執行機器學習應用時,可以不插電而使用電池運行數週、數月,有時甚至數年。

物聯網邊緣裝置可以使用電池或太陽能供電,也可以使用插座取電。無論是電池供電還是透過線路供電,能量都代價高昂。運算並不是唯一的能耗來源;任何涉及資料彙整、有線或無線資料傳輸和資料分析的過程都會消耗能量。要瞭解怎樣節省能耗成本,必須清楚能耗來源。降低功耗需要縮短處理器使用時間。透過將處理器劃分為能夠進行精細電源分區和管理的功能塊,可以達到此一目的。近期的創新指出,邊緣運算處理器能夠實現此一目標。

圖2顯示智慧手錶的邊緣運算處理器應用。在此範例中,恩智浦處理器具有兩個單獨的Arm Cortex核心域:用於運作手錶的Cortex-A域和用於即時處理的Cortex-M核心。這兩個域都具有精細的功率管理和分區,允許關閉某個域以進入深度休眠模式。本文透過不同使用案例重點展示每個核心的操作,說明如何盡可能地降低能耗。

 

圖2:能效異質處理。

 

智慧型生產力

智慧和邊緣裝置在本機處做出決策的能力,需要使用機器學習推理,這是智慧型邊緣裝置的基礎。邊緣出現的機器學習推理越來越多,部分導因於推理處理技術的改良和能效推理「引擎」加速器的發展。可在邊緣進行的潛在推理應用數量,隨著應用能效的提而跟著增加(圖3)。

 

圖3:能效推理的更多可能。

 

邊緣推理的潛在應用只受想像力的限制。考量以下智慧家庭應用:住戶不在家時,監測異常聲音。若偵測到流水聲,或許表示管道漏水或水龍頭漏水;玻璃破裂聲表示窗戶破裂。這些,以及更多的情境會觸發智慧家庭應用,以提醒屋主出現問題。除了能效以外,智慧型生產力不僅具有技術效益,還能帶來社會和安全助益。

資料安全和隱私

確保資料安全和私密性是任何應用的首要任務。隨著在本機處收集和處理的資料越來越多,任何智慧型邊緣應用程式都需要保持警惕。邊緣應用程式碼、所處理的資料,以及對雲端的任何資料傳遞都應獲得安全保障。使用加密金鑰有助於驗核韌體、驗簽雲端通訊技術並防止攻擊方獲得對裝置的控制權。嵌入式安全、隔離式安全子系統和安全軟體賦能是任何智慧型邊緣處理器的基礎(圖4)。對於裝置安全和資料隱私,只有採用一種將集體安全知識與最佳實務囊括起來的全方位方法,物聯網才能變換成「信賴網」。

 

圖4:邊緣處理器的典型資料安全和隱私因素。

 

邊緣感知

隨著邊緣運算技術的普及,將使裝置更有智慧,在整個裝置網路實現一定程度的「感知」。這些系統可以執行機器學習,無需任何外部協助即可做出決策,並且僅佔用郵票大小的空間,使用的功耗極低。透過連接網路中的多個智慧型裝置,成為產生資料、做出決策的感知網路。

一個智慧型裝置也許只能處理語音,但感知網路中的多個智慧型裝置可以組合諸如語氣、臉部表情和身體動作等細微差異資訊。例如,利用整個感知網路中所連接的多個智慧家庭感測器送出的資料,可辨識諸如有人跌倒等危險訊號,並向遠端護理人員發送警示。如果必須將某些資料發送到雲端,智慧型邊緣處理器可以連同其他資訊,諸如一人的聲音和其他經驗簽人員的聲音之音訊圖譜,將其匿名。

另一個例子是家庭安全視覺系統,這種系統可掃描臉部並辨識家庭成員。典型的監視攝影機會擷取車道上車輛盜竊的視訊,如果新增感知和脈絡,系統還可發掘辨識不出來的人員,並向主管機關發送警示。

我們的住家和建築物也可以感知佔用情況,辨識房屋內何時沒人,然後啟動安全系統、調暗燈光並降低溫度。

總結

邊緣運算並非取代雲端處理。反而,其補充雲端的不足,同時透過將資料保留在本機處,提供了一種維持資料安全性的方式,消除與遠端資料中心之間傳輸龐大資料的成本,並允許即時應用程式在幾毫秒內而不是幾分鐘(或更長時間)內獲得所需的答案。簡而言之,邊緣運算現在是物聯網架構的組成部分,適合眾多應用。

之所以能以低成本和低功耗實現此一目標,要歸功於微控制器和微處理器,其已經演進成強大的運算平台,能夠做出幾年前無法實現的決策。其效能在未來幾年會不斷提高,進而將配有更多功能,進一步補充雲端的不足。

(本文由NXP提供)

本文同步刊登於《電子工程專輯》雜誌2022年6月號

 

 

 

 

加入我們官方帳號LINE@,最新消息一手掌握!

發表評論