AI晶片市場究竟是什麼模樣?

作者 : Michael Azoff,Kiasco Research首席分析師

當前的AI晶片市場參與者暴增:在最近的一份研究報告中,我們統計出全球有80家左右新創公司吸引了投資人約105億美元規模的資金,與大概34家老牌業者同台競技。顯然這種情況不會長久,但我們需要解析這個市場,以充分理解它為何會如此發展...

目前的AI晶片市場幾乎全都是關於深度學習(Deep Learning,DL),深度學習是讓AI應用程式在現實世界實際可用的最成功機器學習典範;而其中又以加速(accelerating)深度學習最受關注,因為加速是訓練與推論過程所需。

當前的AI晶片市場參與者暴增:在最近的一份研究報告中,我們統計出全球有80家左右新創公司吸引了投資人約105億美元規模的資金,與大概34家老牌業者同台競技。顯然這種情況不會長久,但我們需要解析這個市場,以充分理解它為何會如此發展、又會如何變化,以及這一切意味著什麼。

將時間倒回2010年左右,當時因為Nvidia推出了在繪圖處理單元之上的高階通用運算方案(GPGPU)──現在我們都簡稱為GPU──導致了深度學習的崛起,將大型神經網路的訓練時間從幾個月或幾週,減少到只要幾天、幾個小時,甚至更短時間。Nvidia自此成功轉型為AI運算公司,發展出規模達數十億美元的新業務。

這激勵了其他晶片公司和晶片架構師開始思考:他們能如何從零開始構建一個專門用於執行AI工作負載的架構,而且表現能比為多樣化工作負載設計的GPU更好?今日的AI工作負載僅代表著執行深度學習,這是目前的市場需求所在。

但市場需求是多變的。儘管大多數AI訓練都在資料中心(包括超大規模雲端)和工作站上進行,AI推論在任何地方都能進行:包括雲端、工作站還有邊緣──尤其是在邊緣裝置。

AI晶片市場如何細分?

無論一家新創公司決定加入哪個細分市場,競爭都會非常激烈。筆者發現將這個市場映射為一個三角形非常實用,如圖1,每一個角都有自己的一套標準來代表獨特的市場需求。

三角形的頂角是資料中心、雲端和高性能運算(HPC)環境對AI晶片的需求。Cerebras就是巧妙掌握了此一市場的新創公司,打造了號稱世界上最大的晶片──Wafer Scale Engine (WSE)。這個細分市場需要最高的運算能力,功耗和成本則是其次。在這裡新創公司面臨的挑戰是要與超大規模企業或老牌業者競爭──例如Nvidia持續穩步改善其架構,最新版本(Ampere)已於2020年5月發佈。

三角形的底角主要與推論相關,可以打造出維持準確但降低精度的晶片,其約束條件並不相同,包括晶片尺寸、低延遲、低功耗和低單位成本。小型邊緣裝置市場是新創公司最活躍的領域,像Nvidia這樣的大牌業者就不太會參與競爭,該公司也曾表示不打算涉足大眾商品推論市場。但是這個領域的玩家不僅要與對手競爭,還得與潛在客戶鬥智鬥勇──因為客戶可能會決定自創或收購一家新公司。

 

圖1:AI硬體加速器的細分應用市場。

(圖片來源:Kiasco Research

 

AI晶片市場的下一步發展

AI晶片領域有太多的競爭業者,看看圖1中三角形的每個角就知道,只有最佳的全方位設計才會勝出。除了我們已提到的各種因素,還需要添加成熟的軟體開發堆疊、針對市場的願景,以及將深度學習應用程式嵌入產品中的更大潛力,才能使市場合理化。

而這個市場中已經有人「陣亡」了:最近的一個案例是Wave Computing已於2020年4月宣佈破產

競爭促使市場出現更快、更高性能的AI晶片,AI研究人員將從中獲益、實現他們的創新設計。筆者也預期將出現新演算法取代深度學習當前的霸主地位——AI研究的長期願景是打造類人腦的人造大腦,顯然深度學習會走入死胡同。新演算法的誕生勢不可擋(有些已經出現,但不在本文討論的範圍),這些新一代演算法可能會需要不同類型的加速器。

深度學習在實際案例中的應用廣度,使這些晶片擁有數十億美元的市場,隨著5G的推出,其規模還將持續成長。這個市場需要AI硬體加速器,AI晶片市場將趨於合理化,然後整個遊戲規則將隨著新一代AI演算法的崛起而改變…不過,沒有人能斷言改變何時發生。

 

本文同步刊登於《電子工程專輯》雜誌2020年10月號

責編:Judith Cheng

(參考原文:What the AI Chip Market is All About,by Michael Azoff)

掃描或點擊QR Code立即加入 “EETimes技術論壇” Line 群組 !

 EET-Line技術論壇-QR

發表評論