業界正積極推動將人工智慧(AI)導入嵌入式系統,以因應迅速崛起的邊緣運算需求。輝達(Nvidia)繼推出Jetson TX2與AGX Xavier超級電腦模組後,日前發佈入門級AI電腦Jetson Nano,不僅讓專為邊緣AI打造的Jetson系列產品組合更完整,並進一步滲透至擁有數百萬嵌入式智慧系統商機的主流市場。

隨著GPU運算興起、電腦性能提升以及深度學習結合AI等趨勢匯流,讓越來越多的研究人員、開發人員以及資料科學家得以打造基於AI的機器與智慧系統。然而,當今的硬體仍難以達到可執行多個AI演算法的能力,使其在為下一代嵌入式系統導入AI時面對著功耗、成本與運算效能的挑戰。

Nvidia自主機器部門資深產品經理Jesse Clayton指出,完整的AI系統必須具備高效能的電腦、彈性的運算模型,以及同時處理多重感測器的能力,例如來自高解析度(1080p+)攝影機、光達(Lidar)、超音波與音訊的串流,才能進行諸如物件偵測或分類等深度神經網路(DNN)處理任務。

20190402_Nvidia_NT31P1

Nvidia最新Jetson Nano AI模組瞄準大眾市場(來源:Nvidia)

為此,Nvidia打造出可平行處理多重感測器的Jetson Nano,不僅每個感測器間的串流皆能執行多個神經網路,同時支援多種常用的AI架構,因而有助於降低嵌入式應用的開發時間,同時減少硬體設計、測試以及驗證的複雜度,讓開發人員得以輕鬆地將其模組與架構整合至產品中。

Jetson Nano可說是一台「麻雀雖小,五臟俱全」的AI電腦,在70x45mm的小型模組中配備了128 CUDA核心的Maxwell GPU以及4核心ARM A57@1.43GHz CPU,在執行AI工作負載時,可實現472GFLOPs (FP16)的運算效能,而耗電量僅5W。

此外,售價僅99美元的Jetson Nano開發套件更將現有的AI功能導入低成本平台,讓創客、發明家、開發人員與學生能夠打造出過去無法實現的AI專案或創新設計,包括行動機器人與無人機、數位助理以及自主設備等裝置。

據Clayton表示,創客或開發人員以往經常使用Raspberry Pi進行開發,但AI畢竟不是它的強項。此外,Google最近也為開發人員推出搭載Edge TPU的Coral開發板,雖然應用於一些AI裝置時的速度表現不錯,但其架構並不適於開發大型DNN或高度推論應用。相形之下,Jetson Nano在執行大多數的AI推論應用表現更勝一籌。

20190402_Nvidia_NT31P2

相較於Raspberry Pi 3 (搭配Intel Neural Compute Stick 2)以及Google Coral AI開發板,Jetson Nano在執行大多數的AI推論應用中表現較佳(來源:Nvidia)

Nvidia Jetson系列專為將AI帶入終端運算而設計。相較於瞄準完全自主機器的高階AGX Xavier,以及針對從雲端到邊緣AI的TX2,Jetson系列最新成員——Nano更著重於將AI帶入主流市場。Nvidia期望透過Jetson Nano將其觸角延伸至全球3,000萬名的創客、開發人員與學生社群。

本文同步刊登於電子工程專輯雜誌2019年4月號