低功耗DRAM在Edge AI扮演要角

作者 : Gary Hilson, EE Times特約記者

有著悠久歷史的傳統記憶體顯然在邊緣人工智慧裝置中扮演著重要角色,包括那些更上一代的低功耗DRAM (LPDDR)。

在各種滿足人工智慧(AI)需求的高性能或新興記憶體相關討論中,有著悠久歷史的傳統記憶體顯然在邊緣人工智慧裝置中扮演著重要角色,包括那些更上一代的低功耗DRAM (LPDDR)。

例如,華邦電子(Winbond Electronics)的1Gb LPDDR3 DRAM裸片就是一個典型的例子。人工智慧新創公司耐能(Kneron)已在其最新KL720系統晶片(SoC)中整合了華邦1Gb LPDDR3 DRAM。除了KL720,Kneron還提供多款SoC,主要針對各種邊緣裝置應用,包括智慧鎖和無人機等以電池供電的應用,均採用了華邦512Mb LPDDR2。藉由在其KL720 SoC中整合華邦LPDDR3,Kneron希望能進一步支援全新的低功耗/高性能人工智慧和機器學習應用。

據華邦DRAM行銷經理Jacky Tseng介紹,華邦LPDDR3 DRAM支援8.5GB/s的最大頻寬,採用1.2V/1.8V雙電源供電,並具有深度掉電(Deep Power-Down)模式和時脈停止(Clock Stop)等節電功能。這些特性可以使客戶的晶片(如Kneron的KL720)即時處理4K、Full HD或3D感測器視訊影像,從而支援各種人工智慧應用,如安全監控攝影機的臉部辨識、公共資訊站的手勢控制,以及自然語言處理等。

Tseng表示,雖然大型DRAM廠商正大力推動LPDDR4的發展,甚至推出了LPDDR5,但很多客戶並不需要為其應用設計配置先進的DRAM,他們也不想付出更高的成本。因此,像Kneron這樣的客戶尋求的是,以相對較低的密度提供一定的性能水準。Tseng說:「LPDDR3已經足以實施一些人工智慧訓練模型了。而且,對模型進行最佳化可以縮減模型的規模,因此1Gb已經夠用了,當然它仍然需要高頻寬。」

 

耐能(Kneron)的KL720 SoC是一款人工智慧邊緣運算晶片,採用華邦1Gb LPDDR3 DRAM來實現低功耗、低密度和高頻寬。

(來源:Kneron)

 

Tseng表示,除了Kneron及其KL720 SoC的應用需求以外,華邦LPDDR3 DRAM提供的低密度和高頻寬在汽車應用中也大有潛力,例如先進駕駛輔助系統(ADAS)採用的攝影機必須能夠即時處理視訊影像。Tseng指出,華邦的記憶體在物聯網(IoT)終端也有很多機會,這些終端裝置需要進行基本的人工智慧推論,就像Kneron SoC一樣,它們需要低密度和高頻寬。

Tseng還說,在邊緣採用FPGA和ASIC進行更強大的推論將需要更多的記憶體,例如4Gb LPDDR4,而在由CPU和GPU驅動的雲端進行更密集的人工智慧訓練和推論,則需要更高密度和更高性能的LPDDR4和LPDDR5記憶體,甚至是高頻寬記憶體(HBM)和GDDR6。最終,邊緣運算的不同層級將需要不同的功率/性能比,其中包括華邦LPDDR3 DRAM適用的層級。

Objective Analyst首席分析師Jim Handy表示,華邦擁有廣泛的產品線,其中許多產品用於僅需要少量晶片的應用。「其於串列NOR快閃記憶體(flash)銷量很大,而SRAM則用於較小銷量的應用中——這些應用若採用DRAM簡直是『殺雞焉用牛刀』!」

Handy曾預計,在人工智慧最終發展為單一架構之前,邊緣人工智慧將提供各式各樣的選擇,例如單個微控制器(MCU)晶片,或只有五顆晶片的小型PC,但這還未出現。Handy說:「人工智慧仍然處於早期的蠻荒階段,種類多到令人難以置信,很難說會朝向哪個確定方向發展。新興記憶體目前仍然只是一個願景,它們在邊緣或許會大有作為,然而現在還未發生。」

本文同步刊登於2022年2月《EE Times Taiwan Digital》數位雜誌

(參考原文 : Low Power DRAM Can Meet Edge AI Demands,By Gary Hilson)

 

 

 

加入LINE@,最新消息一手掌握!

發表評論