人工智慧(AI)、物聯網(IoT)和5G等「決戰未來」的關鍵技術正持續融合,共同推動製造業、醫療保健、零售與工業等產業轉型,並在各領域的邊緣運算與應用場景中釋放前所未有的機會。

為了協助業界掌握這一波技術融合與突破,英特爾(Intel)在日前於台北舉辦的「英特爾邊緣運算解決方案高峰論壇」揭露針對AI生態系統的最新佈局,包括視覺運算處理器Movidius VPU、更新開發工具OpenVINO,並聯手業界夥伴分享邊緣運算合作計劃的成果。

英特爾物聯網事業群副總裁江百倫(Johnathan Ballon)在論壇中介紹稍早於其AI Summit 2019發表的首款商用AI晶片。他說,「我們正處於AI、IoT與5G等技術融合與各種功能突破的轉捩點,而台灣正位於這一場創新的中心」,因此選擇在台灣介紹這款代號為Keem Bay的新一代視覺運算處理器Movidius VPU。

新一代Movidius VPU專為深度學習設計,功耗僅4~15W,預計於2020上半年上市。為了提供更好的靈活度,英特爾針對各種邊緣用例提供多種外形選擇,例如晶片本身可用於AI相機或連網相機、以M.2卡形式可用於Kiosk或機器人等應用或擴展至PCIe卡等。此外,結合2-8個VPU成為高密度深度學習卡,特別適用於自動駕駛等需要高效能的邊緣體驗或加速AI應用等。

Movidius VPU, comparision

英特爾最新的第三代Movidius VPU兼具效能與低功耗優勢。江百倫說:「從效能來看,Movidius VPU的推論性能較上一代產品提高了10倍,比Nvidia TX2的推論性能更快4倍,也比華為海思HiSilicon Ascend 310更高1.25倍。從功耗來看,Keem Bay的功耗約300W,每瓦性能較TX2更高6.2倍。而且其尺寸相當小,如果以inference/mm2來看,還比TX2更小8.7倍。」

為了發揮軟硬體整合的更高效能,英特爾並推出OpenVINO、OpenNESS與Open Visual Cloud,這些工具套件將有助於進一步融合AI、5G與IoT。江百倫介紹OpenVINO的四項更新,包括支援CPU/GPU/FPGA/VPU等架構的異質推論、深度學習工作台、網路載入最佳化,以及更小佔位空間的佈建腳本等。

Intel, OpenVINO

英特爾網路平台事業群邊緣運算暨生態系推動事業部門總經理Renu Navale介紹針對連結5G網路的邊緣運算工具。OpenNESS可安全的多重存取邊緣雲端運算,無縫地橫跨網路邊緣或就地部署,執行開發、佈建和管理網路服務。開源程式碼Open Visual Cloud則提供可視化雲端服務要件,協助縮短媒體處理與分析、雲端繪圖和遊戲等服務的技術差距。此外,OpenNESS、OpenVINO和Open Visual Cloud等工具套件也可加以整合,高效率且高效能地融合分析、媒體和網路工作負載。

英特爾並發表專為邊緣設計的Intel DevCloud開發雲,讓開發人員在因應各種用例限制以及瞭解神經網路的敏感性,在決定硬體之前將其演算法或提供的樣本在DevCloud專屬雲端上免費試用英特爾全系列Edge處理器、製作原型和測試AI解決方案。DevCloud可在超過15個國家免費試行,至今已有超過2,700位客戶用於測試其網路。

台灣多家業界合作夥伴在論壇中展示各種硬體、軟體和服務,以及其與英特爾並聯手打造的邊緣運算解決方案。威強電(IEI)執行長江重良介紹該公司與台大皮膚科的一項專案計劃,採用英特爾OpenVINO結合AI訓練與推論演算法,不僅免於以往必須進行的切片檢查,並且讓醫師透過AI模型加速檢測與判讀皮膚癌,提高診斷的準確性達90%。

研華科技(Advantech)工業物聯網事業群資深經理陳文吉則指出台灣製造業在數位轉型過程中仍面對5G與AI的考驗,例如紡織業在更新產線與產能時的瓶頸就在於如何因應布料的多樣性與變化,難以透過自動化來實現各種參數檢測。藉由OpenVINO支援電腦視覺與深度學習以及平行處理的能力,提供可靠度與可行性的優勢,為產線現場提供所需要的可靠性以及可行的落地方案,精準度也從80%提高到95%。

凌華科技(Adlink)則強調攜手英特爾實現‘Training on the cloud, inference at the edge’的概念。該公司物聯網策略解決方案與技術事業部資深協理阮北山說,凌華致力於提供可實現AI運算的邊緣平台,但經常僅能停留在概念驗證(POC)階段而難以大規模佈建。為了加速從POC到大規模佈建,凌華提出服務導向的整合架構Data River,在不同的平台上執行OpenVINO最佳化計算,降低部署模型的難度。

此外,威聯通科技(QNAP Systems)總經理張明智則介紹其QuCPE邊緣伺服器,可在英特爾伺服器上使用「融合邊緣運算參考架構」(CERA)建構AI平台,以滿足零售業的需求。鴻海科技(Foxconn Technology)也正開發兩項以CERA為基礎的高效能邊緣運算解決方案。該架構結合英特爾運算處理能力與軟體基礎,協助鴻海為工業邊緣運算和專用無線應用提供新解決方案。