如果你所在的產業有長達60年的歷史,大眾的認知可能是它已經來到了「熟齡」、即將邁入暮年,就像是半導體產業…但現在有越來越多說法則是,硬體又悄悄地重新成為市場潮流。

在6月底於美國舊金山舉行的年度設計自動化大會(DAC 2018)期間一場「40歲以下創新者」獎項得主座談會(Young Under 40 Innovators Award Panel)上,來自Google的平台架構師李晟(Sheng Li)對台下聽眾表示:「我認為這是硬體人的黃金年代。」

另一位「40歲以下創新者」得主、美國喬治亞理工學院(Georgia Tech)副教授Arijit Raychowdhury 也呼應了李晟,表示:「我認為現在對硬體工程師來說是好時機,有很多機會。」

身為硬體IC產業界的一份子應該都會欣然同意以上說法,相信實際情況對自己有利;資料中心與新興AI應用領域的爆炸性成長,仰賴晶片設計工程師開發出速度更快、性能更強大、功耗卻更低的處理器,而且能建立在不同的運算架構上。

但筆者抱著懷疑態度,認為這種「硬體潮流重現」的說法需要進一步檢視。身為座談會主持人,筆者並不認為這幾位「40歲以下創新者」獎項得主對硬體產業的樂觀看法是作假,他們也沒有人說半導體產業是回歸了那個只要像往常一樣做生意的輝煌時代。

20180709_hardward_NT02P1

DAC 2018的「Young Under 40 Innovators」獎項得主,由左至右依序為: David Atienza、Sheng Li、Arijit Raychowdhury、Yu Wang與Zhiru Zhang
(來源:EE Times)

我們都能感覺到這個產業的劇烈變化,但我不認為硬體人都能良好掌握下一步。因此我詢問台上的每一位青年工程師與學者,在他們各自的領域中,「創新的瓶頸」何在?

瑞士洛桑聯邦理工學院(Ecole polytechnique federale de Lausanne,EPFL)副教授David Atienza指出,近來人工智慧(AI)與機器學習領域的興盛,讓他擔心硬體領域與該領域之間存在非常大的鴻溝,因為前者是聚焦於解決AI各方面問題的大量軟體,但在硬體層面仍是以非常傳統的架構為基礎。

Atienza的疑問是,AI軟體可以繼續演進,但是「關於硬體我們該怎麼做?」他指出,可以開發加速器,不過在「應用程式要求硬體做的事情」以及「硬體可以處理的事情」兩個方面上,仍存在非常大的差距。

而我們顯然會需要仰賴EDA工具來設計新加速器,但那些工具真的了解系統需求嗎?Atienza直言:「EDA產業要生存,就得往更高層級移動,必須要能支援全套方案。」

軟硬體界線越來越模糊

更讓硬體設計界感到不安的,是抽象層(abstraction layer)顯然正在消失。曾任職英特爾(Intel)實驗室的李晟指出:「我在職業生涯中一直擔任平台架構師,以往都有一個抽象層將軟體從硬體結構中分離出來,因此兩邊能各自獨立運作;」但再也不是如此。

他的觀察是:「抽象層已經開始崩潰,」我們有越來越多資料以及更先進的演算法,需要更多運算能力;但是摩爾定律(Moore’s Law)已經步伐趨緩好一段時間:「我們無法再提供那麼多的運算能力,或者說我們無法用過去那麼快的速度提升運算能力,」使得軟體與硬體架構之間出現巨大鴻溝。

李晟的看法是,「將不會再有純粹的軟體或是硬體架構;」而是會出現「架構導向應用程式」(architecture-driven apps)或是「應用程式感知架構」(application-aware architecture)。

EPFL的Atienza同意以上看法,他表示:「確實如此,我們在學術領域看到越來越多這種類型的教育方法,我們不要人們只做硬體或軟體,大家需要被教育、訓練為兩種都能做。」

曾任職於德州儀器(TI)的喬治亞理工學院Raychowdhury的觀察則是:「當我剛進入這個產業時,我們有個想法是必須打造固定功能的加速器,但很長一段時間後,情勢並非那麼明朗,我們不確定什麼樣的任務或功能需要加速器,我們也不清楚硬體領域的實際瓶頸所在。」

隨著機器學習成為關鍵應用,硬體設計工程師的目標越來越明確。「我們現在知道,就算是用GPU,訓練大型網路仍需要花很長時間;從設計領域的角度來看,人們尋求的是取得更高頻寬的記憶體,以及打造固定功能元件以加速某些任務──我們現在知道這能創造很大差異,而且很合理;」Raychowdhury樂觀表示:「所以我感覺這個領域會有很多東西發生。」

他補充指出:「還有其他我認為即將發生、也看到晶圓代工業者特別積極的,是高密度記憶體的問世──SRAM、DRAM或者是嵌入式非揮發性記憶體,各種具備較高頻寬的技術。」

Raychowdhury認為,那些記憶體將發生在後段製程(back end of line,BEOL),以3D堆疊或是單體3D結構、低溫型態出現;他預期這個領域將出現劇烈變化:「摩爾定律正在趨緩,電晶體尺寸可能不會再微縮,但我認為還有其他機會,特別是在後段製程,人們將會嘗試創新。」

機器學習與EDA領域的挑戰

北京清華大學電子工程系副教授、也是北京深鑒科技(DeePhi Tech)共同創辦人汪玉(Yu Wang)表示,座談會上每個人都在談應用程式與硬體元件的融合,「這當然是一個趨勢,我們必須要連結這兩個領域,而我們認為這是我們可以做的事情。」

不過汪玉看到的另一個更大的機會是,利用不只一套機器來執行深度學習任務;他解釋,今日的模型是我們可以打造一套在深度學習處理方面非常有效率的機器,但通常每一套機器的資源是受限制的:「如果我們一起運作這些機器呢?」

在他看來,如果那些機器能一起運作,可能會是拉近理論模型與實際情況差距的一個方法。「今天我們是有一個主機(God),然後有很多的代理機器(agent)…如果我們擺脫主機讓所有的代理機器一起工作、不需要主機一直監視呢?就像是要在這棟建築物裡面找一個人,有多台代理機器在建築物中執行,而且嘗試一起覆蓋整個區域。」

汪玉認為,很多系統層級的創新可能因為更強大的代理機器而實現:「如果我們將它們結合,我預見將會有演算法層級、系統層級與硬體層級的創新,有很多的機會。」

美國康乃爾大學(Cornell Univ.)副教授Zhiru Zhang呼應了其他與會者的看法,他是一家EDA工具開發商AutoESL的共同創辦人,後來該公司被賽靈思(Xilinx)收購;「我對於所謂的專屬電腦(specialized computers)非常興奮,」他認為將會有一系列不同加速器問世,將推動創新。

Zhang指出:「我認為現在是研究這類問題的最佳時機;但在另一方面,這也會是一個最具挑戰性的時刻。」挑戰性何在?他解釋:「那些加速器的打造會非常耗時,而且它們的編程也會相當困難。」

至於在振興半導體產業方面,Zhang則認為並不是要吸引新人才,而是「需要打造更開放的硬體工具解決方案」;他以開放源碼線上社群GitHub為例,「如果你要展開某個機器學習研究,只要上GitHub就能找到大量的機器學習相關轉發(repost)資源。」

但如果要在GitHub上搜尋設計自動化相關的轉發資源,可能不到20條;Zhang認為缺乏開放性工具,是今日硬體工程師面臨的最大挑戰之一。

編譯:Judith Cheng

(參考原文: Hardware: Golden Age or Golden Ager?,by Junko Yoshida)