強化AI能力 內建NPU MCU將問世 

作者 : 蔡銘仁,EE Times Taiwan

MCU運算速度、記憶體空間等硬體規格,很難與一般AI晶片比擬;不過,同時具備成本和功耗相對低於一般AI晶片的優勢。

邊緣運算(Edge Computing)話題,催生出tinyML的概念,也讓微控制器(MCU)因此能和AI(人工智慧)連成一線,在物聯網(IoT)的發展趨勢下,無疑為整個產業帶來更多新刺激。比起過往,MCU的應用想像空間變得更大,諸如震動偵測、感測器相關應用、關鍵字偵測等,已相當常見。如何給MCU具備機器學習(ML)能力,AI模型該微縮到多小能讓MCU可用,已然成為業界聚焦的大方向之一。

MCU智慧運算能力與適用情境。 (圖: ST提供)

MCU運算速度、記憶體空間等硬體規格,很難與一般AI晶片比擬;不過,同時具備成本和功耗相對低於一般AI晶片的優勢。功耗正是tinyML訴求的其中一個主要規格,據tinyML基金會定義的tinyML規格,是用mW等級以下的超低功耗,在常時啟動(Always-on)及電池供電的邊緣裝置執行邊緣運算。因應趨勢,Arm日前推出新支援神經處理器(Neural network Processing Unit,NPU)的處理器核心,讓MCU能透過硬體實現更強大的AI運算。

NPU的定義,是透過電路模擬類似人類的神經和突觸(synapse),遇到需處理的狀況時,會藉由模擬所有可行的方案,從中挑選一個最適解。透過深度學習(Deep Learning)指令集直接處理大量神經單元和突觸,並透過突觸權重,實現儲存和運算一體化,相較傳統中央處理器(CPU)採取運算和儲存分離的馮紐曼型架構(Von Neumann architecture),呈現出更好的執行效率。

意法半導體(ST)亞太區資深產品行銷經理楊正廉表示,Arm新的M核心支援NPU,為的是要在越小的晶片做出越多適合AI的產品,NPU分擔MCU的工作,有機會讓整體效果展現更好。未來相關產品推出後,很多應用程式可避免再有侷限性的問題,且有NPU可做AI處理,MCU的資源就能做更完善的規劃。

據悉,ST首款帶NPU的MCU STM32N6有望最快今年底問世,成本和功耗相當有競爭力。另,ST針對AI產品也發展自有Cube AI工具,提供有經驗的開發者透過工具選定MCU跟AI模型,進行AI模型的轉換及最佳化,最佳化包括AI模型微型化、記憶體空間配置等。另,針對缺乏AI經驗或Know-how的開發者,也可以選用nano Edge。ST表示,接下來工具將支援更多模組,持續優化AI生態系。

楊正廉認為,tinyML的概念宛如是替MCU打造AI環境,周邊小細節的應用,像是溫溼度、震動、壓力偵測等,只要牽涉到感測器附加上智慧判斷跟反應,都有機會看到tinyML的身影,比如馬達震動的偵測,就能透過建立AI模型判斷馬達運轉順不順利。ST在AI議題跟ML議題很早就投入,現在開出名詞,可說是跟ST的方向不謀而合。

當加入一些AI模型運算,判斷的內容越來越複雜,就需要用更好的MCU,獨立在設備端就完成運算,即時做反應或動作,可減少頻寬、伺服器負擔。對此,楊正廉指出,ST包括M4到M7系列,都有產品可支援。現階段來看,除了上述三種應用相對常見,手勢跟語音辨識也越來越多,接下來的產品,持續朝低功耗、高效能開發,運算單元的模組也還在加強,持續提升效能。

 

加入我們官方帳號LINE@,最新消息一手掌握!

發表評論