高頻寬記憶體(high bandwidth memory,HBM)因為上週三星電子(Samsung Electronics)宣佈開始量產第二代HBM技術Aquabolt,在市場上再次獲得矚目。

三星高頻寬記憶體市場行銷經理Tien Shiah表示,其8GB容量的High Bandwidth Memory-2 (HBM2)是專為下一代超級電腦、人工智慧(AI)與繪圖系統所設計,號稱能提供最高等級的DRAM性能水準,以及目前市場上最快的資料傳輸速率──在1.2V下每接腳2.4Gbps;與該公司上一代HBM2產品Flarebolt相較(每接腳速度在1.2V下為1.6Gbps、在1.35V下為2.0Gbps),性能提升了近50%。

Shiah在國際消費性電子展(CES 2018)接受EE Times電話採訪時表示,單個Aquabolt封裝能提供307GBps的資料頻寬,資料傳輸速率是資料頻寬為32GBps的8GB GDDR5晶片之9.6倍;這意味著在系統中採用4個HBM2封裝就能達到1.2TBps的頻寬,將整體系統性能提升50%。他指出,對更高資料存取速度的需求推動了市場採用HBM,特別是AI與機器學習演算法;而HBM為市場上最高速的DRAM解決方案,還能節省佔板面積與功耗。

不過Shiah也指出,因為HBM需要整合到具備矽中介層(silicon interposers)的ASIC中,這種設計需要具備專長技術;三星還利用了與散熱控制相關的矽穿孔(TSV)技術長才,單一個Aquabolt封裝內含8顆8Gb容量的HBM2裸晶,利用超過5,000個TSV垂直互連;此外三星還增加了HBM2裸晶之間的散熱凸塊(thermal bumps),能實現對每個封裝更強力的散熱控制。最後還在封裝底部添加了保護層,提高其整體物理強度。

20180117_HBM_NT01P1

三星的第二代High Bandwidth Memory-2 (HBM2)是專為下一代超級電腦、人工智慧(AI)與繪圖系統所設計
(來源:Samsung Electronics)

HBM常常會被跟混合記憶體立方體(Hybrid Memory Cube,HMC;編按:由Micron主導開發)一起討論,兩者同樣是為了發揮DRAM最高速度性能的解決方案;這兩種方案的差異性其實不大,但因為HBM在市場上的接受度較高,有可能會勝過HMC,就像是很久以前錄影帶規格VHS侵蝕Beta版圖那般。

不過市場研究機構Objective Analysis首席分析師Jim Handy表示,就算HBM會成為贏家,它仍是一種利基型技術,「我不認為它最終會躍居主流;目前它實在是很昂貴的技術,因為要在矽晶片上使用TSV的代價高昂;」他指出,HBM到目前為止感覺有點「神秘」,通常是使用在Nvidia與AMD的繪圖卡,需要大頻寬來連結GPU的應用。

Handy表示,TSV確實能提供比打線封裝(wire bonding)更高的優勢,特別是當你可以在單晶片上採用5,000個TSV;然而該技術仍相對較昂貴:「這種技術需要克服的挑戰在於,當生產量增加、價格就會降低,但因為一開始的高價格很難讓生產量變大,」這也是為甚麼HBM仍主要只出現在高階繪圖卡上。

現在也可以看到HBM被應用在某些超級電腦,未來在某個時間點也有機會進駐標準伺服器,但Handy補充指出:「現在很難說什麼應用能讓HBM達到足以讓成本下降的高需求量,大家都在爭論AI將在其中扮演何等角色;」廠商大力推廣鎖定AI應用的FPGA解決方案,為GPU方案帶來競爭壓力,智慧型手機也可能會是HBM的長期性目標市場,因為GDDR5也準備進軍這類裝置。

至於HBM與HMC之間的主要差異,Handy表示是在底部的邏輯晶片;而雖然英特爾(Intel) 採用了美光(Micron)的HMC技術,但自行開發了邏輯標準。另一家DRAM製造商海力士(SK Hynix)也是走HBM路線,他認為英特爾將會從自家衍生的HMC方案轉向採用HBM,最後美光也會跟進:「HBM與HMC差異並不大,所以美光如果必須改變方向也不會有太多損失。」

編譯:Judith Cheng

(參考原文:AI Fuels Next-Gen HBM Demand,by Gary Hilson)