一般大眾使用的行動PC主機板上可能很快就會不只有中央處理器(CPU)與繪圖處理器(GPU),還會配備人工智慧(AI)推理晶片,像是英特爾(Intel)旗下Movidius所開發的視覺處理器(Vision Processor Unit,VPU)。

第一個線索來自於微軟(Microsoft)在日前舉行之年度Windows開發者大會(Windows Developer Day)上發表的Windows ML開放性架構,是專為在Windows作業系統執行機器學習任務所開發;微軟表示,此架構將擴展Windows對Intel/Movidius之VPU的原生支援。

以上訊息意味著Intel/Movidius朝著為VPU找歸宿更往前進了一步,而且目標不只是諸如無人機、保全攝影機等嵌入式系統,還包括Windows筆記型電腦與平板裝置;而Intel/Movidius行銷總監Gary Brown在接受EE Times電話採訪時證實,儘管Windows ML的發表並不是關於VPU與行動PC的整合:「沒錯,你會看到VPU進駐PC主機板。」

Windows ML預期將讓Windows作業系統跟上快速升溫的AI潮流,根據Intel/Movidius說法,該架構能為任何既有的AI工作負載動態選擇最適合的硬體,並在包括Intel VPU在內的多種硬體中智慧分配任務。

Brown進一步解釋:「我們的VPU能與CPU、GPU共同分攤繁重的AI處理任務,例如機器視覺、臉部辨識、語音、生物辨識等等;VPU也能幫忙騰出CPU與GPU的處理資源。」

20180308_Movidius_NT02P1

Intel/Movidius要將VPU推向主流市場

對此市場研究機構Tirias Research分析師Kevin Krewell接受EE Times訪問時表示:「添加Windows原生支援,將向軟體開發商昭示Movidius VPU將越來越靠近主流市場;」不過他並不很確定PC是否為VPU的「好歸宿」。

「我可以預見VPU對AR/VR產品如新一代Hololens來說是不錯的新添加物,但不確定這是否適合PC──PC內有大量的處理能力,包括CPU與GPU可處理視訊,VPU則是在性能有限的裝置中才能有最好的發揮,例如無人機;」Krewell指出:「或許這是Microsoft將Windows觸角伸向無人機、機器人等新領域的第一步。」

AI世界迅速擴張,也讓Microsoft有跟上潮流的壓力;去年開放性標準組織Khronos著手開發自己的低層ML架構,例如繪圖API,這意圖是成為一種通用API;不過就像從Windows ML之發表可看到的,顯然Microsoft還是需要為Windows量身打造的架構。

另一家市場研究機構The Linley Group資深分析師Mike Demler的觀察是,Windows ML看來像是其他任何一種神經網路執行時期API,而「現在差不多是Microsoft趕上Arm平台的時候了」;他也指出,Windows作業系統原生支援「讓Movidius能更順利進軍Windows筆記型電腦/平板裝置市場」。

在被問到這對Microsoft有什麼好處時,Demler解釋:「開發者可能已經準備好利用CPU、GPU或客製化周邊如Myriad (即Intel/Movidius的VPU),在Windows平台上執行機器學習應用程式,而Windows ML提供他們一個標準方法;」對終端使用者來說,Windows ML則將「有助於推動機器學習應用程式轉移至客戶端裝置──在這個案例中是PC。」

PC適合什麼樣的AI應用程式?

如果AI處理器是為特定的嵌入式系統量身打造,該晶片被分配的應用程式與任務會很明確,可能是無人機的物體追蹤、防碰撞,或者是保全攝影機的分析取證等功能;如Movidius前任執行長、現任Intel副總裁暨總經理幾年前接受EE Times訪問時所言,把AI推向邊緣的目標,就是賦予嵌入式系統「感知、評估與決策」的能力。

那麼在PC上適合什麼樣的AI應用程式?Intel的Brown建議了很多種,例如:「假設你走進一個房間,桌上有一台Windows平板裝置,它可以看見你、辨識你的聲音或臉,並藉由各種個人助理類型的任務來提供幫助,例如智慧音樂搜尋或是為你的照片分類;以視覺為基礎的AI也能幫忙強化視訊會議的影像。」

當然,一切取決於應用程式開發商的想像,看他們想把什麼樣的AI新應用程式放上PC。但Demler認為,PC上的AI應用程式會跟其他行動裝置上的應用程式沒什麼兩樣:「包括生物辨識、AR/VR、影像處理、物體識別等等。」

目前Brown坦承Intel/Movidius的Myriad X是第一款Windows ML架構在行動PC上利用的AI處理器,但關於該VPU出現在主機板上的時間點,他僅表示:「很快。」

看來這顯然並非Intel/Movidius的獨門生意;在被問到其他可能進駐PC的AI處理器競爭對手時,Demler強調這樣的對話僅能聚焦於行動PC:「有大量的Nvidia GPU正在桌上型電腦執行機器學習應用程式;Linley Gwennap最近披露,一家名叫Gyrfalcon 的AI加速器新創公司,開發了一款能內建於USB隨身碟的AI晶片,就像是Movidius。」

他指出,訣竅在於能搶進主機板:「在中國,還有像是寒武紀(Cambricon)這樣的AI晶片開發商,其投資者包括聯想(Lenovo)。」

認識Myriad X系列晶片

Myriad X預期會是第一款Windows ML支援的AI晶片,該系列產品是在去年夏天發表,當時El-Ouazzne表示,該公司設計這款第三代VPU晶片設計時,「我們嘗試各種方法在不增加功耗的情況下提升神經網路性能。」

具備更多硬體加速功能區塊的Myriad X架構,能在深度神經網路推理任務中提供TOPS等級的運算性能,同時讓功耗維持在1W之內;該晶片採用8 x 9-mm尺寸封裝,整體運算性能為4TOPS。該晶片內部的SHAVE (Streaming Hybrid Architecture Vector Engine) DSP核心,從上一代產品的12個增加為16個,此外以20個經強化的硬體加速器組合添加了神經運算引擎(neural-compute engine)。

El-Ouazzane在去年的Myriad X發表會上解釋,該引擎是為了在不增加額外運算開銷的情況下執行特定任務,例如為支援邊緣提取(extract edges)的深度圖繪製(depth-mapping,這是支援如無人機著陸等應用案例的關鍵功能),以及為支援更寬廣視角的感測器去彎曲引擎(de-warping engine),還有對保全攝影機在追蹤與人數統計應用上至關重要、支援超高性能運作評估的光流(optical flow)功能。

編譯:Judith Cheng

(參考原文: With Windows ML, Intel AI to Invade Mobile PCs,by Junko Yoshida)