號稱功耗更低 類比機器學習晶片問世

作者 : Majeed Ahmad,Planet Analog

美國新創公司Aspinity開發號稱全球首款類比機器學習晶片,能處理原生類比資料並進行分析,以接近於零的功耗進行推論並偵測事件...

總部位於美國賓州匹茲堡(Pittsburgh, Pennsylvania)的新創公司Aspinity聲稱,全球首款類比機器學習晶片已經問世,源自於西維吉尼亞大學(West Virginia University)所研究的一種「不關機」(always-on)技術──該AML100晶片能處理原生類比資料並進行分析,以接近於零的功耗進行推論並偵測事件。

圖1:AML100配備可連結感測器、系統喚醒觸發器和其他外部元件的類比和數位介面。 (圖片來源:Aspinity)

圖1:AML100配備可連結感測器、系統喚醒觸發器和其他外部元件的類比和數位介面。 (來源:Aspinity)

該晶片能夠判斷資料的相關性,在需要時才啟動數位核心。在這裡值得注意的是,當前的系統在分析已經數位化的資料時會浪費電力,因為有超過80%的數位化資料通常是不相關的。「我們認為,在邊緣領域,已數位化和被處理的資料中有80%是不必要的,大多數都是浪費;」Aspinity共同創辦人暨執行長Tom Doyle表示:「浪費掉的就是處理這些無用資料所需的能量。」

Aspinity的新晶片AML100能夠在資料數位化之前,以類比方式完成機器學習和其他運算,使機器學習更接近資料來源。舉例來說,該晶片透過執行機器學習演算法,可判斷某個聲音是否為玻璃破碎,或是其他聲音。

正如Doyle所言,只為了判斷那不是玻璃破碎的聲音,現今的設計工程師必須先採集各種大自然的類比聲音,將之100%數位化,然後在數位領域查看、分析聲音資訊:「那會浪費大量的電力。」

對於那些「不關機」裝置,為了偵測玻璃破裂等事件,目前的系統需要監控房間裡的所有聲音,處理100%的資料。它們等待像是打破窗戶玻璃那樣相當罕見的事件,總之就是在它發生時不能錯過;Doyle指出:「從不關機的設計角度來看,這是一種臨界動力(critical dynamic)。」

他補充指出,在監聽聲音的數位架構中,人們會以全部頻寬盲目地處理所有資料,但有可能運作許多年都沒有任何事件發生。其中若採用16位元類比數位轉換器(ADC),ADC和數位處理器消耗3mA~5mA電流;而Doyle認為這還算是已經很理想的案例。

Aspinity將AML100加入以上的架構,執行某種特定模型──在這裡是偵測玻璃破裂的案例──同時關閉ADC和數位處理器,如此它們可以進入睡眠模式、不消耗電力。這就是AML100能夠將不關機應用的耗電維持在100µA以下的原因,從而讓系統級功耗有驚人的改善。

「我們將機器學習從數位轉向類比,因此可以透過本地進行決策,」Doyle表示,「這有助於在系統等級將不關機應用的功耗節省95%;」他還指出,雖然數位核心可以提升元件等級的功耗表現,卻忽視了隱藏的ADC功耗增加和其他浪費系統功耗的地方。

類比機器學習晶片運作原理

AML100類比機器學習晶片中,包含一系列透過軟體編程的可配置類比功能區塊(configurable analog block,CAB)。換句話說,每個CAB的功能和參數,都可以透過軟體進行配置。它使AML100能夠為手頭的應用建立訊號鏈(signal chain),並對訊號鏈和其中的零組件進行參數化。

這是透過將資訊放入核心來完成的,實現這種做法的關鍵是該公司專有類比非揮發性記憶體,可以在每個CAB內儲存神經網路權重、濾波器頻寬等參數。Doyle表示:「這就是我們如何透過打造訊號鏈來進行訊號處理,以及如何在每個電路嵌入非揮發性記憶體。」

他補充指出,首先是將其中一個功能區塊參數化,對濾波器這樣的電路偏壓(biased)以設置中心頻率;其次,使用非揮發性記憶體處理類比神經網路的權重;第三,則是利用它來處理晶片之間的一些變化;「最終,我們能使用可配置類比核心建立訊號鏈,以執行必要的功能,如偵測玻璃破裂。」

AML100可支援最多4顆不同的類比感測器,並且像感測器中樞(hub)一樣,可以接收來自多個麥克風或加速度計的輸入。「由於我們擁有所有必要的介面,因此很容易整合到類比感測器系統中;」Doyle亦指出,該類比機器學習晶片也很容易與當前的數位架構整合。

該晶片執行不間斷偵測所消耗的電流不到20µA,因此能夠將類比資料減少100倍。AML100採用7mmx7mm、48接腳的QFN封裝,並可提供支援語音偵測的評估套件EVK1和EVK2──包括前置詞管理(pre-roll management)、玻璃破裂音偵測、煙霧/一氧化碳(T3/T4)警報音檢測和其他聲音應用。

 

圖2:AML100能針對不同應用對單獨硬體進行編程,因此其效率媲美數位處理器。

(來源:Aspinity)

 

音訊設計的新層次

Doyle透露,藉由AML100的推出,Aspinity一直專注於提供最低的不關機功耗,可望催生眾多電池供電應用新產品;他表示:「在支援語音的應用中,功耗和資料需一併考量;如果不處理沒有用的資訊,就可以節省大量功耗同時延長電池壽命。」

 

圖3:語音優先設計中的新類比層,將促進更多電池供電產品的開發。

(來源:Aspinity)

 

在收集資訊的感測器數量不斷增加,連網裝置數量也不斷增加的時代裡,Aspinity透過其類比機器學習晶片,為語音辨識相關設計添加了一個新層次,在執行音訊資料推論時消耗的功率非常少,只在出現相關資料時才啟動後續的數位處理階段,並與雲端通訊。

該款能處理原生類比資料的類比機器學習晶片,旨在解決以音訊為中心之邊緣設計效率不彰的問題。繼續觀察像是這樣具備推論能力的類比晶片,如何能在數位主導的設計領域佔據一席之地,將會相當有趣;也期望可以看到這類晶片催生更多電池供電的語音優先產品問世。

 

本文同步刊登於《電子工程專輯》雜誌2022年5月號

責編:Judith Cheng

(參考原文:Audio chip moves machine learning from digital to analog,By Majeed Ahmad;原文刊登於EE Times姊妹網站,ASPENCORE出版集團旗下Planet Analog)

 

 

 

 

加入我們官方帳號LINE@,最新消息一手掌握!

發表評論

  1. 榮華 周700表示:

    類比晶片設計技術較高,10年前類比晶片設計缺人才,現在舊ㄉ學不完新的一直出… ^_^