雖然AI Hardware Summit吸引不少參與者,也有數家公司在其間透露了一些有趣的訊息,卻無重大新聞發表。事實上,有幾家預期出席的公司甚至沒有現身,例如新創公司Groq就在最後一分鐘決定「翹課」,這讓許多期待這家資金雄厚的新秀首次亮相的人頗感驚訝。今年的與會者還包括Synopsys、eSilicon、Crossbar、Rambus、Pure Storage等公司;Microsoft、Facebook等業者則介紹了他們的超大規模資料中心AI解決方案。

有幾家原本預計現身AI Hardware Summit或是掛名贊助商的公司,後來沒有出席展會。其中最讓人傻眼的就是Groq,這家公司很晚才決定取消演講,因此還掛名在演講台上的贊助商列表中;該公司對媒體與分析師們的解釋是與「客戶問題」有關。這種在最後一分鐘才發生的變卦,當然引來一些對該公司可能遭遇瓶頸的猜測;與會媒體與分析師的看法則包括該公司第一款測試晶片出問題、某家大客戶不讓他們發言,或是已談妥被收購。

Groq是由打造出第一款Google張量處理器(TPU)晶片的一個工程師團隊所創立,而且募得不少資金;可惜該公司未能成為AI Hardware Summit上的主秀。

20190924_AIHDSmmit_NT01P1

備受期待的新秀Groq在最後一刻決定缺席美國矽谷AI Hardware Summit,連公司名稱都來不及從贊助商列表上拿掉。
(來源:Tirias Research)

展會的開幕演說是由Alphabet董事長、前任史丹佛大學(Stanford University)校長John Hennessy主講,他分享了認為未來運算需要特定領域(domain specific)架構的觀點,與鎖定專門AI處理的展會主題契合。他指出,Dennard微縮定律已經走到終點,摩爾定律(Moore’s Law)也趨緩,電晶體功率與成本再也不朝著正確的方向發展,未來的性能提升無法只依靠製程技術。

對微架構(microarchitecture)來說,性能的改善例如推測執行(speculative execution)是浪費功率──儘管對於性能的最大化非常有益。其他技術例如快取記憶體的回報越來越小,多核心處理器則受到了阿姆達爾定律(Amdahl’s Law)的限制,時脈速度似乎也走到了盡頭。此外,現代的腳本語言如Python,雖然能為程式設計師帶來很大效益,卻讓執行效率降低。

針對上述問題,Hennessy提出的解決方案是專注於特定領域架構,例如GPU與TPU,它們能在某些功能上表現優異,並透過軟體有效鎖定目標。藉由特定領域架構,能減少控制邏輯的數量,目標是在改善執行效率的同時抽象化硬體。在此刻,任何架構的終極目標都是達到能源效益,因為這是微縮的主要限制。

Hennessy認為,在AI市場我們仍不知道最終或最完美的架構是什麼,但對於新架構與不同架構的實驗應該要繼續下去。而他希望硬體設計會變得更像軟體,能快速進行原型製作、重複利用以及抽象化,這要靠開發簡化的設計工具來實現。

獨特的AI方案

在AI Hardware Summit上有幾家新創公司介紹了獨特方案,包括神經形態運算、記憶體內運算、類比運算甚至光學運算。其中Mythic提出了在NAND記憶體內執行的類比運算,該公司開發了一種獨特方案,能在單一個NAND記憶體單元中儲存8位元的數值;Mythic表示它們有獨家的低功耗ADC與DAC技術。

對類比運算的批評之一,是要將數位輸入轉換成類比,並將結果再轉換成數位,會消耗大量功率;Mythic聲稱已解決這個問題,此外該公司的解決方案只鎖定在8位元整數值,其優勢在於能以幾瓦的功耗執行推論。

Rain Neuromophic正在開發一種晶片,藉由奈米線連結的憶阻(memristive)材料更接近地模仿人腦。這是仍在早期開發階段的技術,但目標是實現在速度與功耗上都有百倍提升的元件,預計2020年投片,第一款產品會是PCIe介面的協同處理器板卡。

另外一家公司Applied Brain Research (ABR)的設計也是模仿人腦結構,其內含棘波神經網路的(spiking neural networks) Nengo 晶片,目標是實現功耗低100倍的推論,預計在2021年推出以GlobalFoundries的FD-SOI製程與體偏壓補償(body bias compensation)技術實現的樣品。The GrAI (發音與gray相同) Matter Labs則開發了全數位的神經形態處理器。

20190924_AIHDSmmit_NT01P2

以色列業者Habana展示Gaudi機架伺服器。
(來源:Tirias Research)

還會有更多AI晶片新創公司?

風險投資業者也出現在AI Hardware Summit的某場座談會上,專家建議新創公司要做一些其他人做不到或是沒在做的事情,需要與其他老牌業者差異化,才能輕鬆超越他們。還有要專注在讓整體擁有成本更低的解決方案,讓他們的元件能更容易編程、更快速上市。

參與座談的專家被問到,是否有太多公司在開發AI晶片?但對這樣一個可能會很重要的產業來說,「太多創新」會是個問題嗎?另一個問題是在五年內市場上還有多少AI晶片供應商存在;對此有專家預測是5~13家公司,但筆者所屬的市場研究機構Tirias Research認為,正確的答案應該是所有的晶片供應商都會是AI晶片供應商,因為AI處理功能將會被整合到大多數的處理元件中,從微控制器到伺服器處理器。

雖然這場會議的新聞不多,但人脈網路的連結是重點;會議延長了演講之間的休息時間,讓與會者能有更多機會相互交流,以及參觀現場的展示攤位。今年會議的規模變得更大,時間也拉長,雖然並非每一場演講都是尖端技術,但是可以想見明年應該會有更多與會者,而且希望很多仍只是簡報內容的技術能變成實體晶片。

編譯:Judith Cheng

(參考原文: Groq: No Show at AI Hardware Summit ,by Kevin Krewell;本文作者為Tirias Research首席分析師)