HBM蓬勃發展,HMC也還活得好好的!

作者 : Gary Hilson, EE Times特約編輯

HMC與HBM之間的競爭,就像是Beta和VHS時代的規格對峙戰。不過,其間的一個明顯區別在於:HMC還活得好好的!

混合記憶體立方體(HMC)與高頻寬記憶體(HBM)之間的競爭,乍看之下就像反映著Beta和VHS時代的規格對峙戰。不過,這兩大領域之間的一個明顯區別在於:HMC還活得好好的!

HMC使用一種稱為「矽穿孔」(TSV)的垂直管道途徑,以電氣連接單個晶片的堆疊,讓高性能邏輯與DRAM晶片結合在一起,從而使記憶體模組的結構就像立方體一樣,而不是平放在主板上。相較於DDR技術,HMC架構能以較低功耗實現更高的性能。

這項技術的發展是以混合記憶體立方體聯盟(Hybrid Memory Cube Consortium;HMCC)為主導,成員包括主要的記憶體製造商,如美光(Micron)、海力士(SK Hynix)和三星(Samsung),以及像是Altera、Arm、IBM、微軟(Microsoft)、Open-Silicon和賽靈思(Xilinx)等開發商。

然而,儘管英特爾(Intel)、Altera和Xilinx等供應商已經將HMC技術整合於其產品和架構中,但HMC的發展一直未能像HBM那樣真正地起飛,甚至都已經發展到3.0版了。其他像是一些先進的高性能運算和資料科學應用,包括巨型電波望遠鏡陣列計劃SKA以及富士通(Fujitsu)等公司的高性能運算(HPC)解決方案等,也導入了這一技術規格。

美光科技就是最早並強力支持該技術的業者之一。美光先進運算解決方案副總裁Steve Pawlowski說,該公司目前銷售搭載HMC 2.0的FPGA模組,但相較於恪遵HMC協議,其關注重點更在於該架構如何滿足特定用例對於高頻寬記憶體的需求,包括人工智慧(AI)¬¬——這是最初在構想HMC時還未真正存在的應用。Pawlowski:「哪些應用能讓我們取得以低功耗實現極高頻寬的最大優勢?同時又能為客戶提供更具成本效益的封裝解決方案?」

Pawlowski表示,美光科技持續進行其‘pathfinding programs’研發計劃來探索HMC的潛力,而不只是對於最初規格的更新,同時還將推動其他高頻寬記憶體技術的進展——包括擴展GDDR到傳統繪圖市場之外和極端性能等應用,以及後來居上而使HMC黯然失色的HBM技術

Pawlowski說,從性能的角度來看,HMC當然是不錯的解決方案,但是客戶也期待更大的容量支援。因此,「在頻寬與容量的權衡時可能會稍偏向於容量。」

然而,新興的AI工作負載更著重於頻寬,因此,HMC架構在這方面更具有發展潛力。

同時,美光並利用其主機記憶體緩衝(HMB)功能,推出相容於JEDEC標準的產品。其HBM2E產品組合目前處於工程樣本階段,提供包括8GB和16GB產品選擇;此外,該公司還致力於在參考平台上驗證其HBM2E。

由於三星等公司的努力,HBM在過去幾年來逐漸展現穩步成長。例如三星最近發佈了稱為‘ Flashbolt’的第三代16GB HBM2E,在HBM2E封裝上的緩衝晶片頂部垂直堆疊8層10nm級(1y) 16Gb DRAM晶片,使其前一代的‘ Aquabolt’容量提高了一倍。其HBM2E封裝以40,000多個TSV微凸塊排列方式互連,同時提供3.2Gbps的資料傳輸速度,每堆疊記憶體頻寬為410Gbps。

Samsung_Flashbolt

作為一項開放標準,HBM持續進展以滿足高頻寬的需求。例如三星最近宣佈其最新HBM2E,稱為‘ Flashbolt’。
(來源:Samsung)

三星半導體高速記憶體資深行銷經理Tien Shiah表示,HBM2E非常適於HPC和先進的繪圖系統,以及AI驅動的資料分析。「HBM顯然已經成為AI的首選記憶體。」他說,部份原因在於HBM已經是業界標準,而HMC尚未成為標準,還需要IP等合作夥伴來共同發展生態系統。即使這兩種技術都使用TSV,但其關鍵的技術差異之一在於HMC使用序列介面,而HBM則使用平行介面。

由於HMC並不是開放標準,該技術可能會有不一樣的專有應用風格。Objective Analysis首席分析師Jim Handy表示,HBM則是開放標準,任何人都可用於開發產品,而且也開始在超大規模業者與AI應用中探索更多需求,而不僅僅是最初的HPC和高階繪圖系統。「HBM帶來了比DDR更高速的連接方式。」

而讓HMC和HBM高階記憶體得以實現的關鍵在於採用了TSV,但這一技術也使得製造成本大幅增加。Handy說,即使AI和超大規模業者開啟了HBM需求之門,相對而言仍算是小量製造。「這並不至於讓您期待大量普及,因為它仍然是一種價格非常昂貴的解決方案。」

Shiah還表示,HBM將永遠都會是高價類的記憶體,因為它的製造成本更高。 「但是隨著量更大以及更多應用導入,我認為還是有機會看到規模經濟。」

三星自2016年推出Flarebolt迭代以及接著在2018年推出第二代HBM2——即Aquabolt以來,一直在穩定地逐步改善其HBM產品。Shiah說:「以我們最新的HBM2E產品來看,其速度基本上可以提高到75%,並較上一代產品的容量增加了1倍。」此外,HBM可說是目前最快的DRAM形式,對於為AI和機器學習應用尋找理想解決方案的客戶而言極具吸引力。此外,自動駕駛應用也著眼於導入這項技術,以支援所需的即時決策。

儘管有許多新興記憶體一直在探索新的用例,但是沒有什麼比DRAM更快的了,即使是3D Xpoint¬¬——如今它可以作為Intel Optane DIMM來使用,即DRAM一般使用方式。Shiah說:「無疑地,HBM的頻寬吞吐量是無與倫比的。」

因此,HMC看起來還活得好好的,而且對於最初構思HMC時並不存在的應用而言,如今的HMC架構可能更具意義。Pawlowski表示,HMC可說是超前其時代發展的卓越技術典範,但還需要建立生態系統才能使其被廣泛採用。

編譯:Susan Hong

(參考原文:HBM Flourishes, But HMC Lives,by Gary Hilson)

發表評論