AIoT跨界處理器擁抱智慧語音介面

作者 : Sally Ward-Foxton,EE Times特派記者

《EE Times》獨家!XMOS發表最新Xcore.ai「跨界處理器」,瞄準IoT裝置中以AI驅動的語音介面——這正是端點應用中最重要的AI工作負載…

英國語音與音訊方案供應商XMOS發表專用於機器學習的Xcore處理器核心,從而為人工智慧物聯網(AIoT)應用打造全新的跨界處理器(crossover processor)。機器學習版Xcore.ai處理器量產成本可望低於1美元。

Xcore.ai基於XMOS專有核心設計建構的第三代產品,專用於端點裝置中進行即時的AI推論和決策,還能夠執行訊號處理、控制與通訊功能。

該第三代晶片的新亮點在於專為機器學習應用而設計的向量管線功能。它是同類產品中唯一支援二值化(1位元)神經網路的跨界處理器。針對端點應用中的超低功耗AI而言,二值化神經網路的重要性正日益提高,因為它們提供了大幅改善的性能和記憶體密度,而僅適度地折衷一點精度(Xcore.ai仍可支援32位元、16位元和8位元數字)。

XMOS-Xcore-crossover

Xcore.ai跨界處理器(來源:XMOS)

這讓Xcore.ai躋身支援AI功能的新興端點處理器之列,成為所謂的「跨界處理器」。「跨界處理器」(crossover processor)一詞由恩智浦半導體(NXP Semiconductors)創造,形容一種重要的新裝置類型,兼具應用處理器(AP)的性能以及微控制器(MCU)的易用性、低功耗與即時操作;透過「跨界處理器」,有助於將AP的性能帶到MCU領域,打破高階MCU和低階AP之間的技術鴻溝。

XMOS執行長Mark Lippett在接受《EE Times》的專訪時說:「如果您與客戶討論到『微控制器』(MCU),他們想到的是價格約75美分或更低、性能相對較低以及約為100MIPS的Cortex-M0、M3或M4系列。而‘SoC’可能是採用四核架構A53核心且執行速度達到1KHz的產品。在二者之間還存在很大的差距,例如語音處理器就是一道難解的數學習題,它需要數千MIPS。因此,在二者中間這個真正重大的應用領域之間還存在著很大的空白,應該為其定義一個新的名稱。」


Xcore.ai躋身新興的AIoT跨界處理器之列(來源:XMOS)

語音介面

XMOS於去年7月發佈的第二代產品XVF3510是一款語音介面ASIC,但在該晶片底層同樣基於該公司專有的Xcore設計,並隨附韌體出貨。其基於XVF3510的遠場語音解決方案參考設計能夠滿足亞馬遜(Amazon)的Alexa語音服務要求。

鑑於XMOS長期在語音領域的耕耘,Xmos.ai晶片理所當然地最初將針對需要AI用於關鍵字偵測或詞典搜尋功能的語音介面應用。

「明確來說,語音是端點上最重要的AI工作負載,而且可能還會持續相當長的一段時間。但是,為了讓語音介面的表現更好,您會發現裝置將變得更加多模態。」Lippett描述了一種使用不同類型感測器而使應用更具情境感知能力的趨勢,無論是偵測個人的存在還是從某個位置發話,都需要這種情境感知功能。


XMOS執行長Mark Lippett

他說:「改善用戶體驗的機會很多,不只是透過傾聽音訊,還可以執行更多功能來實現。」

物聯網(IoT)裝置中的許多AI應用都取決於隱私、安全和防護的組合,這必須在端點進行處理。例如,如果廚房中只有小孩的話,以語音和雷達開關烤箱的電器安全功能就很重要。

因此,Xcore.ai將為市場提供可用於創建語音介面的工具庫,但是Lippett表示,客戶已有足夠的容量建構自己的系統。它包括一個用於攝影機輸入的MIPI介面。

Xcore架構

Xcore.ai晶片可提供高達3200MIPS、51.2GMACC和1600 MFLOPS的性能,並具備1MB的嵌入式SRAM,以及一個用於擴展的低功耗DDR介面。

據XMOS表示,相較於Cortex-M7,雖然可提供相當於Xcore.ai的整合度以及類似的操作頻率,XMOS的晶片則使其AI處理性能提高了32倍,DSP性能提高15倍。

Lippett說:「端點應用必須具有性價比,顧此失彼地討論其中一項性能並沒什麼意義。我們在價格方面一向具有競爭力,量產後的價格還可以低至1美元。廣義而言,我們的成本僅為[Cortex-M7同類產品的一半],而在性能上更是無與倫比。」

XMOS-Xcore-AI-block-diagram

Xcore方塊圖(來源:XMOS)

Xcore.ai採用XMOS專有的Xcore架構。Xcore本身建立在稱為邏輯核心的建構模組上,可用於I/O、DSP、控制功能或AI加速。在每個圖塊(tile)中有8個邏輯核心,每個Xcore.ai晶片中有2個tile,設計人員可以選擇為每項功能分配多少核心。每個tile中還包含記憶體、算數邏輯單元(ALU)以及與邏輯核心共享存取權限的向量單元。

Lippett說:「重點在於其以一種非常可預測的方式[共享存取]。這就是Xcore的特色。最初,我們希望為軟體工程師提供I/O的靈活性,但如果錯過期限,硬體就無法相容。因此,Xcore採用多核心,原因並不在於我們想分擔工作負載而加處理——這部份我們已能做到。採用多核心是因為我們希望為應用的特定部份提供專用資源,以便在需要時即已就緒。它採用由下而上的設計,因而可提供這種定時精度。」

將各種不同的功能(I/O、DSP、控制與AI)映射到韌體的邏輯核心,可以創建一種完全以軟體編寫的「虛擬SoC」。在以下的圖示中,一個核心正執行通常以硬體完成的任務(例如I2S、I2C和LED驅動器),有些核心處理神經網路,而其他核心則執行通常以軟體完成的任務。在軟體中定義這些任務可能速度更快些,更能因應IoT裝置的瞬態需求。Lippett說,開發成本也較便宜,讓開發商即使是在較小的細分市場中也能打造更經濟的解決方案。

XMOS-Xcore-AI-application

Xcore應用(來源:XMOS)

Lippett說:「我們觀察市場進展的方式是,市場需要更多樣化的功能,而公司必須更快地做出回應。如果不建立一款非常通用的平台,最終可能無法滿足任何細分市場的需求,那麼也就難以在IoT上押注兩年的時間。而今,[藉由Xcore.ai],就能更輕鬆地以更低的資本支出讓裝置更快地投放市場,也能實際針對較小市場少量投注,讓這些市場更具經濟效益。」

然而,大型MCU製造商也積極進軍這一類跨界處理器領域,XMOS將如何與其競爭?

Lippett強調,「當然不會是打造基於ARM的SoC!因為他們確實已經做得有聲有色了。要與這些MCU巨擘競爭的唯一方法就是擁有架構的優勢。這也正是Xcore在性能方面的固有功能,當然還有靈活性。」

編譯:Susan Hong

(參考原文:XMOS adapts Xcore into AIoT ‘crossover processor’,by Sally Ward-Foxton)

掃描或點擊QR Code立即加入 “EETimes技術論壇” Line 群組 !

 EET-Line技術論壇-QR

發表評論