總部位於美國的AI 晶片新創公司Syntiant宣佈推出針對語音任務處理設計的低功耗神經網路加速器NDP100與NDP101,將用來檢測功率水準低於200μw的聲音模式,讓各種設備能具備語音控制功能。

新款晶片令人驚訝之處,是使用了數位技術。這家新創公司是在2018年首度亮相,介紹了一種利用內含數十萬個連結至NOR記憶體單元的乘加器(multiply-accumulate units)陣列,以類比技術處理深度學習任務的方法。其競爭對手 Rival Mythic也是以類似的類比技術專攻影像和視訊應用;Syntiant則表示將於2020年推出的下一代晶片也會鎖定這類應用。

記憶體處理器(processor-in-memory,PIM)架構一直被視為一種有趣但難以實現的方法,Rival Mythic與Syntiant這兩家新創公司可能需要從40奈米NOR移轉到ReRAM或 MRAM陣列,以微縮至28奈米製程設計。

新款晶片利用數位MAC陣列中的 SRAM快取記憶體,省電的方式一部分是透過盡可能減少資料移動,還有降低精確度水準,支援4位元權重(weights)、8位元啟動(activations)。數位元件的推出,代表該公司意識到神經網路剪枝的重要性與類比運算所帶來的挑戰。

Syntiant宣稱其新型數位晶片比起一般CPU 和DSP,能節省一百倍的能耗,但並沒有提供相關量測數據;該公司表示,其數位晶片已經贏得助聽器、手機等產品的設計案,晶片樣品也已經在智慧喇叭、家庭自動化設備和筆記型電腦中進行測試,而類比晶片仍在研發階段。

在Syntiant的新聞稿中,引述了摩托羅拉解決方案公司(Motorola Solutions)一位高階主管說法,表示新款數位晶片能使公共安全系統實現「新一代的邊緣運算應用」;還有一位英飛凌(Infineon)高階主管表示,在沒有DSP或雲端連接的情況下,單個IM69D130麥克風在處理近端和遠端音訊時效果良好。

Syntiant 表示,數位晶片將用於關鍵字識別(keyword spotting)、喚醒詞檢測(wake word detection)、喇叭識別、語音事件識別和感測器分析處理。此產品支援63個口語字詞,可透過編程識別聲音,如玻璃碎裂聲;此外可監控氣體感測器的數據,或運用被動紅外線數據進行人體偵測。

20190304_Syntiant_NT01P1

這間新創公司計畫在未來採用類比記憶體處理器取代新晶片的數位區塊 (圖中的粉紅色部分),以節省更多電源,而不改變周圍的IP區塊(圖中的藍色部分)。
(資料來源: Syntiant)

該公司將一個工具程式(utility)整合到 TensorFlow架構中,以實現量化過程的自動化,並將深度學習模型嵌入晶片,目的在於支援往後的其他架構。Syntiant執行長Kurt Busch表示:「我們提供能介接其他處理器的開發工具套件(SDK)以及訓練開發套件,給那些想要自行訓練模型的客戶,也能提供語音訓練服務且想要客製化關鍵字的客戶。」

NDP 100 尺寸為1.4x1.8 mm,採用12球WLBGA封裝,可以置入空間受限的手機和助聽器中。 NDP 101採用5×5mm QFN封裝,可以從串列快閃記憶體啟動,具備8個GPIO,可作為智慧喇叭等大型系統中的主要系統單晶片。這兩款產品皆搭載具112-KB RAM記憶體的Arm Cortex-M0核心,已經開始出貨。

編譯:Patricia Lin;責編:Judith Cheng

(參考原文: Startup Rolls AI Chips for Audio,by Rick Merritt)