AI伺服器強勁出貨動能推助 HBM需求攀升
AI伺服器出貨動能強勁帶動HBM (high bandwidth memory)需求提升…

據TrendForce研究顯示,2022年三大原廠HBM市佔率分別為SK海力士(SK Hynix)50%、三星(Samsung)約40%、美光(Micron)約10%。此外,高階深度學習AI GPU的規格也刺激HBM產品演進,2023下半年伴隨NVIDIA H100與AMD MI300的搭載,三大原廠也已規劃相對應規格HBM3的量產。因此,在今年將有更多客戶導入HBM3的預期下,SK海力士作為目前唯一量產新世代HBM3產品的供應商,其整體HBM市佔率可望藉此提升至53%,而三星、美光則預計陸續在今年底至明年初量產,HBM市佔率分別為38%及9%。
預估2023年AI伺服器出貨量年增15.4%
目前Nvidia所定義的DL/ML型AI伺服器平均每台均搭載4張或8張高階顯卡,搭配兩顆主流型號的x86 伺服器CPU,而主要拉貨力道來自於美系雲端業者Google、AWS、Meta與Microsoft。據TrendForce統計,2022年高階搭載GPGPU的伺服器出貨量年增約9%,其中近80%的出貨量均集中在中、美系八大雲端業者。展望2023年,Microsoft、Meta、Baidu與ByteDance相繼推出基於生成式AI衍生的產品服務而積極加單,預估今年AI伺服器出貨量年增率可望達15.4%,2023~2027年AI 伺服器出貨量年複合成長率約12.2%。
2022~2027年全球AI伺服器出貨量年成長率預估。
(來源:TrendForce)
AI伺服器刺激Server DRAM、SSD與HBM需求同步上升
根據TrendForce調查,AI伺服器可望帶動記憶體需求成長,以現階段而言,Server DRAM普遍配置約為500~600GB左右,而AI伺服器在單條模組上則多採64~128GB,平均容量可達1.2~1.7TB之間。以Enterprise SSD而言,由於AI伺服器追求的速度更高,其要求優先往DRAM或HBM滿足,在SSD的容量提升上則呈現非必要擴大容量的態勢,但在傳輸介面上,則會為了高速運算的需求而優先採用PCIe 5.0。
而相較於一般伺服器而言,AI伺服器多增加GPGPU的使用,因此以NVIDIA A100 80GB配置4或8張採計,HBM用量約為320~640GB。未來在AI模型逐漸複雜化的趨勢下,將刺激更多的記憶體用量,並同步帶動Server DRAM、SSD以及HBM的需求成長。
一般伺服器與AI伺服器平均容量差異。
(來源:TrendForce)
從無線連接、更快的處理和運算、網路安全機制、更複雜的虛擬實境(VR)到人工智慧(AI)等技術,都將在未來的每一個嵌入式系統中發揮更關鍵功能。「嵌入式系統設計研討會」將全面涵蓋在電子產業最受熱議的「智慧」、「互連」、「安全」與「運算」等系統之相關硬體和軟體設計。
會中將邀請來自嵌入式設計相關領域的研究人員、代表廠商以及專家,透過專題演講、產品展示與互動交流,從元件、模組到系統,從概念設計到開發工具,深入介紹嵌入式系統設計領域的最新趨勢、創新和關注重點,並深入分享關於嵌入式系統設計的經驗、成果以及遇到的實際挑戰及其解決方案。









訂閱EETimes Taiwan電子報
加入我們官方帳號LINE@,最新消息一手掌握!