片上網路(network-on-chip,NoC)是系統級單晶片(SoC)內一種基於網路的通訊互連模組,相當於連接CPU核心、儲存單元和各種功能模組的高速匯流排,可實現各功能模組間的高速、高效、低延遲和低功耗的資料通訊。本來這一技術的市場需求很小,供應商也沒幾家,Arteris、NetSpeed和Sonics當數前三大了。然而,近幾年人工智慧(AI)晶片的熱潮帶動了這一利基市場的高速增長,無論是智慧型手機應用處理器,還是針對雲端運算平台AI訓練的AI加速器晶片,都離不開這種NoC互連模組。

NoC是SoC的「強力膠」

網際網路巨頭和融到鉅資的AI新貴們在按照自己的需求定制開發AI晶片時,都只能從這些互連IP供應商購買授權,因為要在一個SoC上整合CPU、GPU、DSP、記憶體和其他功能模組,使得資料在各模組間有條不紊的傳輸,就必須由NoC統一指揮協調,否則就會導致晶片功耗過高、面積特大,甚至不能正常運作。這種獨特的互連IP儼然成了黏合AI晶片的「強力膠」,其價值在複雜SoC設計中日益凸顯,自然能夠提供這類IP的少數幾家開發商就成了搶手貨。

Facebook為何要收購這家小IP公司?

已經有20年歷史的NoC和電源管理技術開發商Sonics在其官方網站上聲明「我們將掀開新篇章」,公司管理層和員工都將併入Facebook,EE Times也已經從Facebook得到收購Sonics的官方確認。據業界分析人士推測,Sonics的互連IP技術將首先用於Facebook的Oculus VR/AR頭盔產品,是否會用於Facebook自己的資料中心AI晶片則還不得而知。

如果Sonics的NoC技術相對成熟,又能滿足Facebook的需求,Facebook只要購買授權許可就行了,為何直接了當地買下整個公司呢?也許是因為技術還無法滿足需求,需要更加緊密的合作。也許是Sonics資金吃緊,公司管理層不想再過苦哈哈的日子了。或者,Facebook也許另有打算,只是現在還不便透露。

無論背後是什麼原因。有兩點是可以確定的。首先,Facebook和Google等網際網路巨頭自行開發AI晶片已經不是什麼產業秘密了,另外,NoC互連IP的價值進一步得到證明。市場需求確實在那裡,就看誰能滿足了。

英特爾為什麼買下NetSpeed?

另一家SoC設計的互連IP供應商NetSpeed成立於2011年,由原英特爾設計工程師和華為美國公司資深架構師聯合創辦,曾經被選入2017年EE TImes Sillicon 60,於2018年11月被英特爾收購。NetSpeed的Orion AI互連IP可為AI應用帶來廣播和多播等高階特性,可極大提升晶片性能和執行效率。

20190318NT61P1

中國AI獨角獸寒武紀在其AI處理器中使用的就是NetSpeed的互連IP,其他客戶還有地平線、MIPS、DENSO,以及RISC-V高性能處理器開發商Esperanto等。據英特爾稱,NetSpeed的IP和開發工具可幫助其設計團隊更快地開發和測試新一代SoC,透過系統演算法和方法來評估和最佳化SoC性能。

晶片設計IP是門好生意

據IPnest的統計,2007~2017年全球晶片設計IP市場的年複合成長率(CAGR)為13.7%,而同期EDA市場的CAGR僅1.87%,跟整體半導體產業增長基本保持一致。IP的年增長平均比半導體產業高出10%,預期未來10年這一趨勢會持續,到2028年IP市場規模將超過EDA。

20190318NT61P2

2017年全球晶片設計IP市場約為36億美元,其中以Arm為首的處理器IP類型就佔據了60%。處理器IP類型包括CPU、GPU、DSP、NoC和高速介面等IP,其中NoC和互連IP 供應商有Arteris、NetSpeed和Sonics。NetSpeed去年被英特爾收購,Sonics現在又被Facebook納入旗下,使得Arteris成了NoC互連IP市場唯一的IP供應商。

Arteris能否成為SoC設計工程師的IP「瑞士刀」?

SoC設計產業分析師開始猜測,Arteris是否也會步同行的後塵,被一家大客戶看中而收入囊中。Arteris執行長K. Charles Janac卻態度堅決地表示,「我們不會出售的」,事實上,他對公司未來前景十分樂觀。過去幾年來,Arteris銷售額每年都以超過20%的速度增長,2018年達到了2,700萬美元,且同行被大公司收購反而是好事,因為他們的客戶馬上就找上Arteris的門來了。

晶片內的互連IP這門生意進入門檻很高,不但技術要求高,而且要有持續不斷的研發投入,以滿足複雜SoC設計中模組互連的各方面要求。包括從快取一致性到一對一網路類型的互連,以及對晶片功耗/性能/尺寸的通用要求,甚至各種設計工具也需要專門定制開發。

沒有技術累積的初創公司難以立足,就連英特爾這樣的晶片巨頭也難以從頭開發出能夠跟Arteris競爭的互連IP。Arm雖然也提供類似的互連IP,但跟Arteris的技術還有不小的差距,目前只能達到互補配套的作用。

互連IP的應用不單單侷限於伺服器和資料中心等高階市場,從汽車電子到智慧型手機的晶片設計都會用到這類IP。在Arteris的客戶名單中,不乏汽車、網際網路和半導體產業巨頭,單中國市場的客戶就有25家,其中包括百度、小米、阿里巴巴和華為。

20190318NT61P3

據Arteris的Janac稱,互連IP約佔整個處理器IP市場的1/4,未來可望成為整個IP產業的「骨幹」,Arteris計畫3年內掛牌上市,希望能夠成為SoC設計師手中的「瑞士刀」。這一願望能否實現,就看Arteris是否堅守住自己的信念,不被大公司的高價所誘惑。

結語

網際網路巨頭和系統廠商自己開發晶片似乎已成流行趨勢,但社交網路Facebook收購一家名不見經傳的小型IP公司還是有點令人吃驚。對於IC設計初創公司來說,能夠在NoC互連IP這一晶片設計高處站住腳就已屬不易了,無論被收購還是獨立發展,初創團隊都會有充分發揮技術創新的空間。

這對中國的半導體和IC設計業界人士有何啟發呢?投入鉅資興建晶圓廠固然對國家半導體產業的長遠戰略是必要的,大舉進入AI領域也許有做大的機會,但以自身獨特技術專注於晶片設計的某一類IP未嘗不是「一門好生意」。對於資金不是那麼寬裕的初創公司來說,若能真正定下心來開發出獨門IP,成為產業內不為人所知的「隱形冠軍」也是成功之道,而中國芯的發展壯大正需要這樣的「隱形冠軍」。

參考文獻

  1. Facebook Buys Interconnect IP Vendor Sonics by Junko Yoshida of EE Times.
  2. Top 3 Reasons Why Design IP Is Business Friendly by Eric Esteve of IPnest on Semiwiki.

本文為姊妹刊EE Times China原創文章