接續前文:當電腦視覺遇上AI…(上)  

賽靈思(Xilinx)企業策略部門資深副總裁Steve Glaser指出,該公司的視覺應用客戶主要都是採用Zynq系統單晶片(SoC)或是MPSoC來開發機器學習技術;目前賽靈思的Zynq SoC已經進駐各家車廠超過80款的先進駕駛輔助系統(ADAS)。

Zynq SoC包含四顆ARM Cortex-A53處理器核心、Mali繪圖處理器(GPU)、H.265硬體加速器,以及可程式化邏輯與IO。Glaser表示,該SoC的規格是由ADAS客戶所驅動:「我們與最大的廠商們花了至少七到八年的時間來設計這個;」而他強調,Zynq實際上並非FPGA:「在我們第一次投片時,該晶片有超過七成是被硬體SoC佔據。」

賽靈思實際上做了什麼,以傳統上已知不容易編程的可程式化SoC來幫助專家使用者們?該公司表示,他們已經開發了一種「系統最佳化編譯器」在抽象過程中提供幫助,來減輕設計工程師們的痛苦。

「賽靈思開發垂直規範(vertical specification)開發環境已經有四年的時間,」市場研究機構The Linley Group資深分析師Loring Wirbel表示,那些開發環境包括SDAccel (應用於加速的軟體定義規範環境)、SDNet (連網應用的軟體定義規範)、SDSoC (SoC應用軟體定義規範):「所有都是以OpenCL做為抽象加速演算法的語言。」

Wirbel表示,就是像SD系列工具套件以及reVision等工具,讓可程式化架構對使用者來說更容易考量;而這當然也遲早讓使用者們明白:「他們將得去學習抽象語言的一些基礎原理。」

舉例來說,開發工程師先在SDSoC環境採用OpenCL或C/C++建立初始原型,進行模擬以識別問題或瓶頸所在,然後應用包括經訓練之系統權衡的最佳化編譯器;Wirbel表示:「reVision大量使用了SDAccel/SDSoC規範方法,雖然軟體內部有一點模糊。」

賽靈思推出reVision堆疊的目標有二:一是提供支援特定新興神經網路技術,如GoogLeNet、 SqueezeNet、SSC與FCN的特定演算法;二是為預定義的神經網路子架構提供程式庫元件。

Wirbel坦承,這幾年來高階資料層(data plane)編程語言如OpenCL與P4很難被接受一直是個問題;不過他也表示:「看來透過提供像是reVision的預定義堆疊,賽靈思能贏得大型車廠、工廠、軍事/航太合約製造商等客戶,因為這些廠商意識到他們若要保持競爭力,就得添加硬體技術能力。」

而Wirbel認為,高層軟體抽象就像是神經網路本身;多年來,對神經網路終將無所不在的預測都已經灰飛煙滅,但後來像是Google系統的出現改變了局勢,突然所有人都有了大幅度的躍進;他的觀點是:「以那樣的意義來說,賽靈思在正確的時間點切入市場。」

他並指出:「而且,人人都假設以可程式化FPGA/SoC做為加速器的方案,會被應用於下一代訓練與推理系統的某個地方,而這也是促使英特爾(Intel)收購Altera的因素之一。」

市場競爭局勢

有鑑於人工智慧(AI)社群對更高性能、更快反應時間,以及更省電的深度神經網路推理引擎之迫切需求,市場上除了賽靈思之外還有其他哪些SoC、CPU或GPU競爭對手?

技術顧問機構Moor Insights & Strategy分析師Karl Freund表示:「對某些需要充足供應量的應用來說,設計工程師可能會選擇開發ASIC,這能提供更最佳化的元件;不過從大多數案例看來,目前將晶片“硬化”還太早。」

對機器學習訓練領域的使用者來說,Wirbel則指出了Nvidia的Parker、英特爾的Knights Mill加上Altera核心(還有Nervana在其中扮演某種角色)、Knupath、Wave Computing、AMD的FirePro等都是檯面上的「競爭者」。

在推理引擎領域部分就更「擁擠」了;Wirbel表示:「高通(Qualcomm)、蘋果(Apple)、CEVA、益華電腦(Cadence)、新思(Synopsys)以及採用現有賽靈思與Altera之FPGA設計的方案,都可以算是競爭者。」

Wirbel指出,賽靈思目前的優勢在於,受微軟(Microsoft)採用了Altera以及百度(Baidu)採用了賽靈思的方案之影響,廠商在機器學習應用上信任FPGA/可程式化SoC;不過他接著補充:「這並不代表FPGA將自動在推理或是訓練市場領域贏得大多數佔有率。」

20170317 Xilinx NT02P3


神經網路的演進 (圖片來源:賽靈思)

如上面賽靈思提供的圖片所顯示,有越來越多的神經網路浮上檯面。對此Wirbel表示:「我沒聽過其中大半數學術界與工業界的實驗性神經網路;」他結論指出,這個市場在供應商明顯分出勝負之前,將會有好一段時間呈現非常多元化與實驗性質的局面:「我確信Nvidia與英特爾將會跑在最前面,而且確定賽靈思將會在兩種機器學習領域都佔有一席之地,但在那之外,都只能是猜測。」

賽靈思的Glaser重申,該公司推出reVision堆疊的重點,不只要滿足忙著開發自動駕駛車輛的車廠客戶需求,還有想要把電腦視覺與機器學習結合的工業領域客戶。

於3月初率先來台向本地媒體介紹reVision堆疊的賽靈思亞太區ISM (工業、科學、醫療)產業資深行銷技術經理羅霖也表示,結合視覺與人工智慧的新一代生產線機器人、服務型機器人,是目前台灣廠商最感興趣的應用,其次是支援避障、人臉辨識的無人機(空拍機)、AR/VR應用、自動駕駛車輛、安全監控系統,以及能協助醫師判斷疾病徵兆的醫療成像設備。

編譯:Judith Cheng

(參考原文: Xilinx AI Engine Steers New Course,by Junko Yoshida)