新創公司Gyrfalcon藉由一款針對深度神經網路(DNN)打造的推論晶片正迅速崛起,但也面對人工智慧(Artificial Intelligence;AI)晶片領域日益擁擠的市場競爭。在該公司獲得第一筆資金的一年後,最近展示了可用的AI推論晶片,並宣稱在智慧型手機、安全攝影機與工業自動化設備等領域取得多筆設計訂單。

資料中心通常進行深度神經網路訓練,並利用一系列伺服器對其執行推論任務。目前,從汽車到手機等領域,越來越多的客戶端和嵌入式系統都採用加速器以加速推論工作。

蘋果(Apple)、Google和華為(Huawei)等公司都已經在其客製SoC中推出搭載推論模組的智慧型手機了。 Google和微軟(Microsoft)也為其資料中心打造了推論加速器。

在多家供應商中,目前隸屬於英特爾(Intel)旗下的Movidius已開始出貨推論晶片,益華電腦(Cadence)、Ceva和新思科技(Synopsys)則供應IP區塊(IP block),而Imagination和ARM也有相關計劃發佈。此外,目前還有至少十幾家 AI新創公司仍然處於隱身模式,其中包括由一群前Google晶片開發人員共同創辦的Groq正致力於打造推論晶片。

市場觀察家The Linley Group負責人Linley Gwennap表示:「有關AI推論晶片的大部份行動主要來自於IP供應商;在很大程度上,這將會是一個整合晶片的市場。」

Gyrfalcon自去年秋季開始推廣其用於卷積神經網路(CNN)的Lightspeeur SPR2801處理器可用晶片。它採用台積電(TSMC)的28nm製程以及7x7-mm封裝,內含數萬個專用核心和嵌入式靜態隨機存取記憶體(SRAM),無需外部動態隨機存取記憶體(DRAM)即可實現9.3TOPS/W效能。這些核心主要是具有相關記憶體的算數邏輯單元(ALU),以及用於控制資料流程的邏輯元件。

Gyrfalcon第一代Lightspeeur 2801採用APiM技術,能夠為雲端和邊緣提供較市場其他方案更高幾個數量級的平行運算能力,完成深度學習的各種訓練和推理任務。加速卡可搭配M.2和PCIe介面, 支援TensorFlow、Caffe等多個開放來源環境。

新晶片的開發理念來自於其共同創辦人——首席科學家楊林(Lin Yang)在其1988年博士論文中提出的想法;當時他在美國加州柏克萊大學(UC Berkeley)進行有關CNN的研究。這款晶片專用於加速CNN,這也是目前最廣泛的神經網路應用之一。

Gyrfalcon共同創始辦人兼總裁Frank Lin指出,前五大智慧型手機製造商將在未來的旗艦級手機中導入這款晶片。在中國,一家大型保險公司將設計於其監控攝影機中,還有上海的一家鋼鐵製造商也將在其檢測系統中使用這款晶片。

楊林表示:「我們從去年2月取得第一筆資金後迅速發展,在4月驗證了FPGA,9月中就完成在台積電的晶片製造。」

20180306_Gyrfalcon_NT31P1 Gyrfalcon整合卷積神經網路與遞歸網路於一,可平行處理影像與語音(來源:Gyrfalcon)

與Socionext、QuickLogic聯手開發

Gyrfalcon在去年12月宣佈其晶片將被用於索思未來科技(Socionext)的視訊分析平台,搭配其平行處理器使用。這款與Socionext、QuickLogic合作開發的產品將於3月上市,土耳其安全監控系統製造商Bilkon Ltd.將是其首家客戶。

QuickLogic正在評估Gyrfalcon晶片搭配其下一代感測器中樞,用於各種「可聽式」(hearable)產品中檢測喚醒詞的可能性。QuickLogic技術長Timothy Saxe表示:「在十幾家打造推論晶片的公司和QuickLogic評估過的公司中,他們比其他公司更貼近我們的市場。」

Saxe說,人工智慧助理如亞馬遜(Amazon)的「Alexa將使人們想要更廣泛的詞彙進行更自然的語言處理,所以我們必須透過結盟以加速這一過程。」

Gyrfalcon計劃在今年6月推出支援更高性能的第二款產品,並在今年年底前發表全新系列晶片。它還將為大量客戶探索量身打造低至50mW功耗的客製版晶片之可能性。

該新創公司設計了一款PCI Express卡,用於伺服器中搭配晶片。此外,它將跟隨Movidius的腳步,在4月時伴隨新晶片發佈一款USB dongle,旨在吸引更廣泛的CNN軟體開發商。

20180306_Gyrfalcon_NT31P2 SPR2801主要是一系列的ALU核心、SRAM和控制邏輯(來源:Gyrfalcon)

「我們希望不是只有博士才能執行這項任務——這款USB dongle支援幾種預加載的神經網路模型,而且使用起來非常簡單。」楊林在加入Gyrfalcon創業之前還曾經協助中國移動(China Mobile)推廣其國際業務。

但他並未透露Gyrfalcon至今從來自中國、韓國、日本與美國的兩輪投資中總共獲得多少資金,僅表示:「在2018年,我們所籌措的資金已足以支持整體營運了,再加上取得的設計訂單和潛在訂單,今年可望獲利,甚至希望能夠盈虧平衡。」

截至目前為止,該公司有41名員工,其中大部份的人員都位矽谷總部。

編譯:Susan Hong

(參考原文:Startup Claims AI Design Wins,by Rick Merritt)