當今人工智慧(AI)晶片的市場現實究竟是什麼?近年來,這個市場一直被過度炒作,讓許多人開始對此感到懷疑。從輝達(Nvidia)搶攻資料中心市場,加上圍繞著對於全自動駕駛車輛的大肆宣傳,使得這個新市場似乎可以單手解決半導體產業的所有問題,甚至是目前最具挑戰性的「摩爾定律」(Moore’s Law)。

在最近的新聞發佈會上,Ceva市場情報、投資人和公共關係副總裁Richard Kingston指出,Nvidia的股價變化就是反映業界處於炒作週期(hype cycle)的理想指標。Nvidia是AI晶片市場的領導供應商之一,大約自2019年初開始歷經明顯的價格下跌。Kingston認為,這表示我們已經脫離炒作階段,前進到市場開始更準確反映現實的階段。

Nvidia, shareprice

Nvidia在2017-2019年間的股價明顯變化,Ceva認為這顯示AI正進展到一個新的轉捩點。(來源:CEVA)

Kingston說:「如今我們來到2019年,AI可以做什麼以及將在哪裡發揮作用的現實變得更能夠加以落實了。」特別是在汽車領域的進展更明顯。

他說:「業界從兩年前開始導入第4級(Level 4)或第5級(Level 5)自動駕駛平台。現在,我想當今從事自家內部設計的大多數自動駕駛晶片供應商與製造商已經瞭解到在進入Level 4/Level 5之前,可以先在Level 2/Level 3平台上撈一大筆錢。」

Level 2對應於能夠控制駕駛各方面的車輛,包括轉向、加速和煞車,例如特斯拉(Tesla)的自動駕駛功能。Level 3的車輛無需駕駛人密切注意即可自動駕駛,但在遇到緊急狀況,必須由駕駛人接管。

實現這些自動駕駛等級的技術近來獲得了大量的創投(VC)資金挹注。Kingston認為這可能是因為它們展現了一個更實際的目標。

他說:「VC觀察到可以從那裡賺到多少錢,以及可以做多少生意。同時,Level 4和Level 5自動駕駛也被推得越來越遠。」

這對AI晶片意味著什麼?

如果這種市場炒作真的結束了,對於AI處理器市場又意味著什麼?

Kingston說:「這聽起來有些戲劇化,但作為獨立單元的AI推論處理器實際上已經死了。可執行各種AI應用類型的(邊緣)裝置中不再需要獨立的AI引擎了。」

Richard Kingston

Richard Kingston

針對在邊緣裝置的推論任務,Kingston認為,儘管許多人認為AI處理器市場將引領獨立型AI協同處理器的前進方向,但最終,這些協同處理器仍必須與其他晶片共存。因此,整合是不可避免的。

他以影像處理應用為例指出,在AI與更傳統的電腦視覺工作負載之間存在著許多跨界重疊之處。

他說:「當您想要節省元件成本時,還採用兩種獨立架構來處理本質上是同一種工作負載的想法並沒什麼意義。我們越來越覺得,採用獨立的AI引擎及其工具組和編譯器的想法也沒什麼用處。針對客戶追求的終端市場打造具有AI功能的專用引擎才更有意義。」

這種想法催生了一款AI處理器核心——NeuPro-S,它可用於汽車和消費領域中基於視覺的應用。

根據Kingston表示,大多數的AI應用都將從異質運算中受益,這也是獨立型處理器無以為繼的部分原因。

Kingston說:「許多半導體公司並不打算採取通用AI處理器的發展路線,相對地,他們正為AI的特定功能開發模組或引擎。」

例如,Ceva從汽車產業得到的經驗是:為了處理特定的工作負載,半導體公司通常投資開發自家AI引擎。然而,這些引擎並不是以相應的成熟工具鏈打造的完整處理器產品,因而無法以那樣的規格直接交付給客戶。

NeuPro-S_block_diagram

Ceva的AI處理器核心IP——NeuPro-S,可用於加速AI視覺工作負載。(來源:CEVA)

Kingston說:「這些AI客製引擎是當今許多公司的一部份,它在食物鏈中的位置比我們經常面對的更高得多,但它們需要可協助其投入生產的合作夥伴(如Ceva)。」這也正是Ceva CDNN-Invite編譯器背後的部分原因,該編譯器讓業者可以在NeuPro-S旁添加自家客製AI引擎,以製造基於異質運算的AI晶片。

無論Kingston對於AI晶片市場的解讀如何,或者「AI推論晶片已死」說法是否過度誇大,事實上,當今有數十家公司——從新創公司到知名巨擘,都在設計和生產這一類AI推論協同處理器。儘管整合確實是某些終端市場的方向,但並不適用於所有市場。而且不要忘了,雖然視覺應用在當今AI領域佔據主導地位,但就其大小和發展方向而言,未來的工作負載可能看起來大不相同。因此,獨立型AI推論協同處理器預計還將存在很長一段時間。

編譯:Susan Hong

(參考原文:'The AI Inference Processor is Dead',by Sally Ward-Foxton)