強化AI能力 內建NPU MCU將問世 

2022-07-01
作者 蔡銘仁

MCU運算速度、記憶體空間等硬體規格,很難與一般AI晶片比擬;不過,同時具備成本和功耗相對低於一般AI晶片的優勢。

邊緣運算(Edge Computing)話題,催生出tinyML的概念,也讓微控制器(MCU)因此能和AI(人工智慧)連成一線,在物聯網(IoT)的發展趨勢下,無疑為整個產業帶來更多新刺激。比起過往,MCU的應用想像空間變得更大,諸如震動偵測、感測器相關應用、關鍵字偵測等,已相當常見。如何給MCU具備機器學習(ML)能力,AI模型該微縮到多小能讓MCU可用,已然成為業界聚焦的大方向之一。

MCU智慧運算能力與適用情境。 (圖: ST提供)

MCU運算速度、記憶體空間等硬體規格,很難與一般AI晶片比擬;不過,同時具備成本和功耗相對低於一般AI晶片的優勢。功耗正是tinyML訴求的其中一個主要規格,據tinyML基金會定義的tinyML規格,是用mW等級以下的超低功耗,在常時啟動(Always-on)及電池供電的邊緣裝置執行邊緣運算。因應趨勢,Arm日前推出新支援神經處理器(Neural network Processing Unit,NPU)的處理器核心,讓MCU能透過硬體實現更強大的AI運算。

NPU的定義,是透過電路模擬類似人類的神經和突觸(synapse),遇到需處理的狀況時,會藉由模擬所有可行的方案,從中挑選一個最適解。透過深度學習(Deep Learning)指令集直接處理大量神經單元和突觸,並透過突觸權重,實現儲存和運算一體化,相較傳統中央處理器(CPU)採取運算和儲存分離的馮紐曼型架構(Von Neumann architecture),呈現出更好的執行效率。

意法半導體(ST)亞太區資深產品行銷經理楊正廉表示,Arm新的M核心支援NPU,為的是要在越小的晶片做出越多適合AI的產品,NPU分擔MCU的工作,有機會讓整體效果展現更好。未來相關產品推出後,很多應用程式可避免再有侷限性的問題,且有NPU可做AI處理,MCU的資源就能做更完善的規劃。

據悉,ST首款帶NPU的MCU STM32N6有望最快今年底問世,成本和功耗相當有競爭力。另,ST針對AI產品也發展自有Cube AI工具,提供有經驗的開發者透過工具選定MCU跟AI模型,進行AI模型的轉換及最佳化,最佳化包括AI模型微型化、記憶體空間配置等。另,針對缺乏AI經驗或Know-how的開發者,也可以選用nano Edge。ST表示,接下來工具將支援更多模組,持續優化AI生態系。

楊正廉認為,tinyML的概念宛如是替MCU打造AI環境,周邊小細節的應用,像是溫溼度、震動、壓力偵測等,只要牽涉到感測器附加上智慧判斷跟反應,都有機會看到tinyML的身影,比如馬達震動的偵測,就能透過建立AI模型判斷馬達運轉順不順利。ST在AI議題跟ML議題很早就投入,現在開出名詞,可說是跟ST的方向不謀而合。

當加入一些AI模型運算,判斷的內容越來越複雜,就需要用更好的MCU,獨立在設備端就完成運算,即時做反應或動作,可減少頻寬、伺服器負擔。對此,楊正廉指出,ST包括M4到M7系列,都有產品可支援。現階段來看,除了上述三種應用相對常見,手勢跟語音辨識也越來越多,接下來的產品,持續朝低功耗、高效能開發,運算單元的模組也還在加強,持續提升效能。

 

活動簡介

從無線連接、更快的處理和運算、網路安全機制、更複雜的虛擬實境(VR)到人工智慧(AI)等技術,都將在未來的每一個嵌入式系統中發揮更關鍵功能。「嵌入式系統設計研討會」將全面涵蓋在電子產業最受熱議的「智慧」、「互連」、「安全」與「運算」等系統之相關硬體和軟體設計。

會中將邀請來自嵌入式設計相關領域的研究人員、代表廠商以及專家,透過專題演講、產品展示與互動交流,從元件、模組到系統,從概念設計到開發工具,深入介紹嵌入式系統設計領域的最新趨勢、創新和關注重點,並深入分享關於嵌入式系統設計的經驗、成果以及遇到的實際挑戰及其解決方案。

贊助廠商

蔡銘仁

喜歡寫故事的電機人。

發表評論

訂閱EETT電子報