隨著物聯網(IoT)不斷擴張其應用版圖,以及人工智慧(AI)功能從雲端往終端設備邁進,為因應數量越來越龐大的資料與即時處理需求,並分擔傳統雲端架構的運算負荷,邊緣運算(Edge Computing)儼然成為當紅技術;根據市場研究機構TrendForce旗下拓墣產業研究院預估,2018年至2022年全球邊緣運算相關市場規模的年複合成長率(CAGR)將超過30%。

FPGA供應商萊迪思半導體(Lattice Semiconductor)亞太區資深事業發展經理陳英仁表示,邊緣運算方案能解決延遲、頻寬限制、防止物聯網設備斷線(無法連結雲端),以及越來越受到重視的隱私保護問題(將個人資料在設備端先處理),而將例如臉部辨識/追蹤、關鍵字偵測等熱門AI功能與物聯網終端節點、閘道器等結合,可說是2018年的主流趨勢;他引述研究機構Semico Research的預測指出,結合AI的網路邊緣裝置數量將在未來五年以110%的CAGR呈現爆發式成長。

20180704_AI_NT31P1 萊迪思半導體亞太區資深事業發展經理陳英仁展示sensAI開發套件

而陳英仁也表示,物聯網裝置邊緣運算方案得具備的必要條件,除了毫瓦(mW)等級的低功耗、適合大量佈署於消費性產品的低成本、小型化尺寸,更重要的是能支援少量、多樣化的設計需求,以及支援各種傳統介面的靈活性;Lattice的sensAI即是一種符合以上條件,結合了模組化硬體套件、神經網路IP核心、軟體工具、參考設計、客製化設計服務的技術堆疊平台,號稱能加速將機器學習推論整合至物聯網邊緣裝置。

Lattice的方案特別偏重對低功耗裝置的支援,能與物聯網邊緣裝置中的微控制器(MCU)或處理器互補;陳英仁指出,因為AI演算法的複雜性,往往需要較長時間的最佳化過程,特別需要能因應變化的彈性,此時FPGA元件正能發揮其優勢。sensAI的模組化硬體平台包括以ECP5元件為基礎的視訊介面平台(VIP),以及基於iCE40 UltraPlus元件的行動開發平台(MDP);在IP核心部分則支援卷積神經網路(CNN)與二進位神經網路(BNN)加速器。

軟體工具部分則包括從Caffe、TensorFlow等深度學習框架至FPGA的神經網路編譯器,以及Lattice的Radiant和Diamond設計軟體。Lattice可提供包括臉部辨識/追蹤、關鍵字檢測、物件計算以及速度標誌檢測等參考設計,並與生態系統合作夥伴提供客製化設計服務,支援智慧家庭、智慧城市以及智慧工廠、智慧汽車等等應用。

在雲端與終端之間再添安全防線

不同於鎖定物聯網終端裝置的邊緣運算方案,恩智浦半導體(NXP)則是以名為EdgeScale的軟體平台,為佈署大量連網設備與感測器節點的智慧工廠等應用的開發人員,提供在雲端與終端之間添加一套安全機制的方法;Edgescale可支援不限數量邊緣裝置的管理,在遠端自動更新與配置軟體,並採用了NXP的硬體可信任架構,能支援安全啟動、安全金鑰儲存、製造保護、硬體資源隔離與運轉時間防篡改偵測等重要功能。

20180704_AI_NT31P2 NXP EdgeScale平台能為IoT終端提供安全屏障

EdgeScale包括裝置與雲端服務的軟體套件,可支援包括AWS Greengrass、Google Cloud IoT、阿里雲以及其他私有雲端架構,搭配採用該公司Layerscape系列晶片與i.MX處理器的邊緣閘道器,能實現安全、低延遲的資料傳輸以及工業物聯網的時效性網路(TSN)需求。NXP數位網路事業部軟體工程資深總監Justin Yang指出,EdgeScale方案可協助物聯網設備業者或服務業者將裝置底層的軟硬體統一化,順利與各種雲端服務對接、實現獨特的商業模式,除了能簡化開發成本,也能保護終端設備資料的安全性。

在6月初舉行的年度台北國際電腦展(Computex 2018)期間,NXP也宣佈了與多家系統供應商針對利用EdgeScale平台佈署安全的邊緣運算基礎架構攜手合作,包括智邦科技(Accton)、達創科技(DNI)、Imago Technologies、新漢(NEXCOM)、Scalys與神準科技(Senao Networks)等廠商,都將推出結合EdgeScale技術的產品,包括嵌入式視覺系統、工業物聯網閘道器等等。

NXP數位網路事業部資深行銷總監Nikolay Guenov指出,有部份雲端業者也會推出類似EdgeScale的邊緣解決方案,但多是以提升使用者體驗、在資料中心端的改善為主;而NXP比起雲端服務業者,對終端硬體的熟悉程度會更高,能提供從物聯網節點、閘道器到雲端邊緣的廣泛解決方案。此外NXP也將持續擴大軟體現場應用工程(FAE)團隊的規模,為全球客戶提供針對不同需求的在地服務。