以虛擬硬體架構進行物聯網客製設計配置

作者 : Parag Beeraka,Arm

物聯網持續在許多應用市場及領域為邊緣運算轉型,涵蓋範圍從各式體積小且功耗受限的裝置,到配備了顯示器、顯示卡及運算功能的嵌入式裝置…

物聯網(IoT)持續在許多應用市場及領域為邊緣運算轉型,涵蓋範圍從各式體積小且功耗受限的裝置,到配備了顯示器、顯示卡及運算功能的嵌入式裝置。Arm正處於這波轉型的最前線,持續推動轉型進度向前邁進,並以Arm虛擬硬體作為Arm物聯網全面解決方案的一環。

Arm虛擬硬體是由Arm建模(modeling)技術演進而來,它提供功能可正確運作的Arm架構系統單晶片模型,協助應用程式開發人員在取得硬體前後建置及測試軟體。Arm虛擬硬體是簡單的雲端應用程式,用於模擬記憶體及周邊設備,以測試並使用新一代的實務軟體開發,例如支援DevOps和MLOps等工作流程開發。

與Arm合作推動這波轉型的是領先業界的奇景光電,它提供顯示器驅動與其他半導體產品,例如邊緣人工智慧(AI)處理器及Always-on影像感測器。奇景光電的Always-on智慧型感測產品,提供頂尖的AI運算功能,並具備超低功耗、節省的頻寬需求及隱私保護等特色。為了提供與支援邊緣裝置的AI智慧功能,掌握快速成長的超低功耗技術市場,奇景光電採用Arm虛擬硬體進行內部的軟體開發和機器學習工作,成為Arm物聯網全面解決方案的主要合作夥伴之一。

機器學習與人工智慧結合之後,大幅強化了物聯網的發展潛能,成為物聯網轉型的關鍵。除此之外,奇景光電也加入了Arm人工智慧合作夥伴計畫,向開發人員及客戶提供各種尖端的AI專業知識、解決方案及服務,與Arm一同推動轉型。

奇景光電成功的展示了如何以Corstone-300為基礎的Arm虛擬硬體平台,成功的配置了它們的專案。奇景光電能在Arm虛擬硬體運用超輕量級的機器學習模型YOLO fastest XL-它是一款公用模型,能偵測約80個物件,可說是tinyML應用完美部署的代表。

實際試用

想要開始使用Arm虛擬硬體,請先查看相關文件頁面,其中提供各種指示說明,協助您瞭解如何由AWS Marketplace存取Amazon Machine Image (AMI)。文件中說明如何啟動Arm虛擬硬體的EC2執行個體並進行連線。

第一個適合使用的軟體範例,就是使用TensorFlow Lite的micro-speech範例,其中的編譯及執行程序非常簡單。

 

 

Micro-speech範例可印出辨識「是」與「否」關鍵字的音訊推論輸出結果。Micro-speech範例是以Corstone-300系統的預設配置來執行的。現在Arm虛擬硬體AMI正在執行中,並確認執行Micro-speech,接下來要試用的是Arm ML嵌入式評估套件。

為了讓Arm虛擬硬體能被應用在奇景光電的特定配置中,MAC數應設定為64。這可反映出奇景光電的配置,並以最理想的方式進行效能預估。變更MAC數時,軟體編譯步驟及Arm虛擬硬體執行步驟都需要變更。

連線至Arm虛擬硬體AMI之後,請複製範例專案。

 

 

套件中提供完整文件,不過一開始使用Arm Compiler for Embedded針對64個MAC建置所有範例時,請輸入:

 

 

建置指令碼使用–accelerator-config參數將MAC數傳送至Vela編譯器。隨即建立cmake資料夾,其中的建置映像位於bin子資料夾。

 

 

若編譯使用的MAC數與執行階段的模型配置不符,推論就會失敗,並產生NPU配置不符錯誤。因此請務必檢查建置及執行的MAC數是否相同。

由於Arm已在AWS AMI啟用Arm虛擬硬體目標,因此開發人員可輕鬆開始進行嵌入式軟體開發工作。開發人員可使用預設配置或類似奇景光電的特定配置,在晶片可用之前,讓嵌入式軟體及機器學習軟體準備就緒,縮短整體物聯網裝置的上市時程。

一般預期,未來會有更多Arm的客戶以及奇景光電的客戶,能在Arm虛擬硬體執行更複雜的視覺及語音相關使用場景,並加速軟體和機器學習開發工作,縮短整體的上市時程。這是全新的物聯網發展,可進一步加速物聯網裝置的採用,並在2030年之前達到一兆個裝置的規模。

(作者為Director, Segment Marketing IoT and Embedded, Arm)

 

 

 

 

加入我們官方帳號LINE@,最新消息一手掌握!

發表評論