嵌入式系統開發商採用Serial NAND Flash做為AI系統儲存記憶體的優勢

作者 : 華邦電子

就儲存系統啟動碼與應用程式碼而言,嵌入式系統開發商應該抱持開放態度看待以Serial NAND Flash取代SPI NOR Flash所帶來的潛在效益,同時也應該重新檢視對於NAND可靠性、壽命與效能的既有刻版印象。

對於人工智慧(AI)帶來的創新潛能,各個市場領域的嵌入式系統開發商皆展現濃厚興趣。但其實若就「創新」角度來看,似乎顯得有點奇怪,畢竟AI的基礎技術本身並非嶄新概念:植基在IBM的超級電腦「深藍」(Deep Blue)的AI系統早在1997年就擊敗了西洋棋世界冠軍Garry Kasparov。

儘管如此,在此重大突破後的20年來,推展各種AI技術的進程卻相當緩慢。這些技術直到2010年代後期才被整合,使得AI躋身嵌入式系統發展的主流技術之列,而此推展之路由於兩大因素變得平順許多:第一是業界可取得採用大量感測器的物聯網系統所產生的龐大訓練資料庫;還有透過YouTube、Instagram、Snapchat與Facebook Live等熱門平台,業界也首度取得大量被標註的影像、影片與其他形式的資料。

第二個因素則是嵌入式系統主要裝置所具備的能力,如應用處理器、系統單晶片(SoC)或可程式化邏輯閘陣列(FPGA)皆達到可以充當「推論引擎」的臨界點。這代表這些安裝可執行機器學習演算法的裝置系統,能解讀影像檔案並且辨識諸如貓、狗等物體。

如今,AI技術預期將迅速被應用至嵌入式系統,根據市場研調機構IDC預測,截至2023年,採用邊緣運算系統的AI處理器的市場年複合成長率將達65%。但這波採用AI技術的趨勢,也引發嵌入式系統開發商採用的程式碼儲存記憶體(code storage) 是否合宜的問題。

今日,SPI NOR Flash是儲存嵌入式系統啟動碼與應用程式碼的首選記憶體類型。不過,為了因應最新AI應用所產生的更龐大代碼程式庫,SPI NOR Flash面臨必須提供更高記憶體儲存容量的壓力。此外,今日應用軟體豐富的嵌入式系統往往需要不定期地進行線上更新,以便執行安全性修補與新增功能。此不定期更新功能則使SPI NOR Flash寫入速度成為矚目焦點。

本文認為,就儲存系統啟動碼與應用程式碼而言,嵌入式系統開發商應該抱持開放態度看待以Serial NAND Flash取代SPI NOR Flash所帶來的潛在效益,同時也應該重新檢視對於NAND可靠性、壽命與效能的既有刻版印象。

NOR Flash的微縮問題

過往,SPI NOR Flash因提供可靠的儲存記憶體而深獲市場青睞,這是由於NOR Flash本質上穩健且資料保存期可達10萬小時以上。

根據市場調研機構Web Feet Research 於2018年發表的資料,華邦電子就產量與產值而言,無疑穩坐全球SPI NOR Flash製造龍頭寶座,提供的產品線涵蓋從最小容量的3.0V 512Kb以及1.8V 1Mb到最高容量可達2Gb的SPI NOR。華邦先進NOR Flash晶圓現採用58奈米製程製造;根據發展路徑,將微縮至45奈米製程。然而,相比於依循摩爾定律的製程微縮進度,NOR Flash製程技術進程在近年來已經大幅減緩。

此緩慢進程困擾了許多開始採用AI技術的嵌入式系統開發商,因為他們所採用的AI應用需要更複雜、更龐大的軟體程式碼。因此,開發商將越來越需要1Gb以上的記憶體儲存容量,在這儲存容量的範圍間,就每位元成本而言,Serial NAND Flash明顯勝出。

有別於SPI NOR Flash產品線,NAND Flash在製程節點微縮上大致跟隨摩爾定律,從46奈米、32奈米、2x奈米一路微縮至1x幾奈米。近來,3D NAND結構的發展也使 NAND Flash製造商得以持續提升1x奈米製程節點後的產品記憶體密度。

由於在半導體產業裡,晶粒面積與產品成本息息相關,製造Serial NAND所採的製程奈米節點若持續微縮,其成本在1Gb以上的高密度儲存領域,便會大幅低於SPI NOR產品。

此外,今日的智慧連網裝置大多具備即時線上韌體更新(OTA)能力以執行安全修復或功能升級。就這方面來看,SPI NOR也是處於劣勢。在典型的OTA更新運作的例子中,最新代碼在快閃陣列中覆寫備用的代碼,以便在下次啟動後,改為執行最新代碼。因此,在此情況下更新效能的關鍵參數便是寫入時間與抹除時間,就這點而言,Serial NAND也勝過SPI NOR記憶體。

NAND Flash評價問題

儘管在軟體豐富的嵌入式AI應用上,Serial NAND Flash具備成本與效能優勢,但仍需嵌入式系統社群改變心態,願意將Serial NAND視為啟動與應用程式碼的儲存方案。一直以來,他們侷限於NAND的用途僅在於超高容量的資料儲存上,對於Serial NAND Flash產生了先入為主的看法。

就筆記型電腦或平板的固態硬碟(SSD)而言,製造商為了獲得高儲存容量以及低廉的每位元成本,便犧牲資料的完整性與資料保存年限,轉而採用最新3D多層單元技術。在現實世界中,為了採用最新1x製程節點製造超低成本記憶體,讓用戶的音樂或影片檔案隨時間過去出現一些位元的損壞或遺失,是可以接受的折衷方案。

然而,對於儲存系統啟動碼或是應用程式代碼而言,使用高穩定度SLC架構的Serial NAND Flash則是最佳選擇,與先進/超低成本3D NAND各有所長。

Serial NAND講求效能與可靠性

為了提供從SPI NOR到Serial NAND Flash在AI應用記憶體儲存上的轉移路徑,華邦電子已完善其Serial NAND製程與串列式介面以提供:

  • 快速讀取效能
  • 快速寫入/抹除效能
  • 與SPI NOR同等的介面相容性
  • 高度資料完整性與長時間資料保存

華邦電子QspiNAND (Quad SPI NAND) Flash的高可靠性源於製程:採用46奈米製程製造的單層單元 (SLC) Flash,雖然相較用於消費性SSD的3D多層單元 (MLC) Flash相差約三個世代,但正因46奈米製程提供足夠的電荷儲存空間,資料保存期限較有保障:華邦QspiNAND Flash在額定工作溫度範圍內,資料保存期可長達10年。

由於採用46奈米製程的NAND架構,Serial NAND 每位元晶粒面積與每位元成本大幅度低於58奈米製程的SPI NOR,這便是Serial  NAND能在1Gb容量以上產品線較SPI NOR具備高達成本減半優勢的主因。

此外,內建的糾錯碼 (ECC)電路可於寫入與讀取運作時,維持資料完整性,也是一大利多。而華邦QspiNAND Flash 僅需要1位元ECC進行維護,卻提供4位元EC存放空間,故可獲得任何SoC、應用處理器或其他先進運算平台的輕鬆支援。

第二代Serial NAND效能再進化

最新華邦介面技術的發展進程,使得最新一代Serial NAND Flash裝置在嵌入式AI為主的應用上,效能與成本競爭優勢上皆勝過SPI NOR產品。

圖一:過去SPI NOR較Serial NAND提供更迅速的讀取速度 。

(圖片來源:華邦電子)

延遲時間是AI系統的關鍵效能參數,採用機器學習演算法的推論引擎必須於毫秒間執行複雜運算,所以需要迅速的資料讀取效能。

華邦第一代104MHz  QspiNAND Flash在連續讀取模式的最大讀取資料吞吐率達到每秒50Mb。相較之下,133MHz Quad SpiNOR Flash則提供最大每秒60Mb的讀取資料吞吐率(請見圖一)。

華邦電子推出第二代W25Nxx JW QspiNAND系列裝置,於166MHz的單沿(STR)傳輸模式以及83Hz的雙沿(DTR)傳輸模式,可支援更高脈衝速度,而最大讀取吞吐率可達每秒83MB。

透過採用W72N系列Dual QspiNAND Flash產品(由採用單一封裝的兩顆晶粒所製成,提供雙排x4記憶體8個 I/O通道),此讀取吞吐率可翻倍至每秒166MB (請見圖二)。

圖二:華邦電子Dual Quad QspiNAND提供每秒166Mb的最大讀取速度。

(圖片來源:華邦電子)

此迅速的讀取效能可望縮短AI系統的延遲時間。華邦QspiNAND Flash具備的高效能也可支援迅速的OTA運作,將停機時間降到最低。最新1Gb W25N01JW QspiNAND產品的寫入模式吞吐率為每秒8.5Mb,高於華邦SpiNOR Flash產品的256Mb W25H256JV的每秒0.36Mb;QspiNAND產品128Kb儲存區塊的抹除時間則是2ms,優於SpiNOR產品64Kb儲存區塊的150ms。

Spi NOR裝置1Gb資料的總寫入時間為356秒,也就是將近6分鐘;相較之下,第二代Qspi NAND產品則僅需15秒。

易於整合至嵌入式系統

若OEM廠商必須將AI功能整合至嵌入式系統,儲存空間勢必得考慮1Gb以上。因此,評估Serial NAND Flash作為昂貴的SPI NOR替代方案,就成為箭在弦上的必要舉措。所幸,華邦QspiNAND系列產品皆以工業標準尺寸與接腳排列封裝,因此在硬體設計上,可以直接替代現有設計中SPI NOR Flash的產品。

此外,將此先進可靠Serial NAND技術整合至嵌入式系統的另一個強大助力,則來自各大SoC供應商;包含恩智浦半導體 (NXP Semiconductors)、意法半導體 (STMicroelectronics) 與瑞薩電子 (Renesas)等。舉例來說,恩智浦將華邦SpiStack NOR+NAND共同封裝裝置內建至LS1012A邊緣運算處理器內,並使用於FRWY-LS1012A開發板上。在此設計中,華邦QspiNAND裝置可用來儲存開發板的Linux作業系統程式碼;而小型華邦SpiNOR晶粒則儲存處理器的啟動碼。

第二代QspiNAND Flash現已推出1Gb儲存容量產品,可擴充至2Gb、4Gb甚至更高容量。在採用日趨複雜AI邊緣運算技術而使代碼庫不斷增長之際,使用者仍可獲得可靠的儲存解決方案。

如有任何問題, 歡迎提問討論

發表評論