2017年可以說是AI元年,各投資機構和網際網路公司都在大力佈局AI技術。

產業分析師預測AI產值將於2023年超越140億美元。各平台設備製造商正致力於使AI應用於更多設備,因而需要可展現高效運算處理能力、低功耗,又具備經濟效益的解決方案。此外,連網設備現在為追求更快速的反應時間,對終端AI運算能力的需求多過於雲端運算。除了演算法和資料,作為AI的三大要素之一,運算能力也變得非常重要。目前各大晶片廠商都在開發各自的AI平台, 將AI運算從雲端逐漸向終端轉移。

在海思和高通(Qualcomm)等手機晶片廠商紛紛高調推出各自的AI平台後,聯發科技(MediaTek,MTK)也不甘示弱,在最近推出了自己的AI平台NeuroPilot。與競爭對手有所不同的是,MTK的AI平台不僅僅是針對智慧手機,而是首次將終端人工智慧(Edge AI)帶入各種跨平台設備──從智慧手機、智慧家庭到自動駕駛汽車等。

從雲端到終端,Edge AI的四大提升

2018年1月31日,聯發科技在北京和深圳舉行同步媒體溝通會,在會上,聯發科技CTO辦公室協理林宗瑤詳細介紹了NeuroPilot平台與市面上其它AI平台的差異和優勢,同時也闡述了聯發科技在AI領域的發展戰略。

「我們看到AI未來將會無所不在,聯發科技希望做終端人工智慧的推動者,提供跨平台的完整軟硬體的整合方案。幫助我們的合作夥伴大幅減少開發時間;」 林宗瑤對《電子工程專輯》記者表示,聯發科技將提供完整的人工智慧解決方案,通過整合硬體(即AI處理器──Artificial intelligence Processing Unit)及軟體(如NeuroPilot SDK),讓每年約15億台採用聯發科技晶片的各類消費性電子產品具備AI能力。

20180208_MTK_NT61P1

林宗瑤表示,如果說人工智慧的發展前期主要集中在雲端(Cloud),那麼接下來的發展趨勢將會往終端(Edge,編按:或譯為「邊緣」)轉移。這個轉移有四大好處:

第一是終端的回應速度大大提升,比如針對一些車載系統的智慧應用,如ADAS應用,如果透過雲端運算處理,再把資料從雲端傳回來的速度會比較慢;第二是如果把資料放到雲端,隱私也非常容易暴露;第三是目前的上傳流量資費成本也很高。第四是相對伺服器端,終端的功耗會更低。實際上目前雲端伺服器的用電量已經達到全球電力的5%。從環保節能的角度來看,AI從雲端往終端的遷移也會是一個潮流。

目前AI的深度學習還需要大量的資料來進行餵養,而手機等終端的資料量是非常龐大的。林宗瑤認為,未來雲端和終端將會有更好的結合,通過「“雲”管“端”」的方案能夠更好的實現AI的普及。

20180208_MTK_NT61P2

提早佈局,佔據智慧語音終端七成市場

聯發科技在AI領域的佈局其實很早,佈局的技術包括視覺識別(AI Vision)和語音辨識(AI Voice)。2015年,索尼(Sony)選擇搭載聯發科技晶片與Android TV平台推出智慧電視。Sony隨後透過Android智慧電視導入語音搜尋;另透過Netflix與Amazon導入了Dolby Vision和4K HDR,皆由聯發科技的晶片提供支援。

索尼影像產品公司副社長木井一生表示:「自從Sony在2015年進入智慧電視市場後,我們一直與聯發科技密切合作。聯發科技一直穩定提供卓越的系統單晶片效能與支援,隨著AI時代來臨,我們期待繼續與聯發科技在AI上合作。」

在2017年年初,聯發科技副董事長兼總經理謝清江就在接受《電子工程專輯》專訪時表示,聯發科技將斥資2000億,在未來投資AI、5G等八大技術領域。謝慶江認為,AI是一個技術趨勢,會帶來很多新的商業機會:「大家知道AI要增加很多運算,很多半導體的機會就會出來。比如說一些低功耗的單元,或者說和雲端互聯的能力技術。」

實際上,到2017年聯發科技在智慧語音終端領域已經佔據七成比例,獨佔了亞馬遜(Amazon) Echo、Essential Home智慧語音助理的全部訂單,其後又拿下了阿里巴巴的智慧音箱訂單;作為智慧家庭的中樞控制器,聯發科技可望憑藉智慧音箱進一步進軍智慧家居市場。

20180208_MTK_NT61P3

重構AI生態,成為終端AI推動者

不過,在蘋果(Apple)、海思等競爭對手率先推出智慧手機AI平台後,聯發科技的AI平台及戰略卻一直“猶抱琵琶半遮面”。對於這一點,筆者認為並非聯發科技的技術研發比較滯後,而是由於針對公開市場的協力廠商晶片公司公佈新的平台或技術會偏保守,先要考慮到客戶需求,以及是否願意為新功能買單;畢竟以聯發科技的出貨量,哪怕是增加一個小功能,可能加起來就要增加巨大的成本。

此外,以前聯發科技針對客戶主要提供“turnkey”方案,而到了AI生態圈與傳統的CPU生態圈有了很大的不同,AI平台要適應的終端包括手機、數位電視、智慧語音終端、車載、IoT設備等,這些都需要花時間來進行重新構建。

20180208_MTK_NT61P5

據介紹,聯發科技希望憑藉 NeuroPilot AI平台成為終端AI的推動者(Edge AI enabler)。NeuroPilot AI平台支援目前市面上主流的AI架構,包括Google的TensorFlow、Caffe、Amazon的MXNet、Sony的NNabla等。作業系統方面,聯發科技同時支援Android與Linux系統。除了提供人工智慧處理器,聯發科技也將推出NeuroPilot SDK,讓開發者得以更為便利地採用聯發科技晶片,為消費型設備打造AI應用程式與功能。

「以CPU為例,基本上都和特定的OS捆綁,不管是微軟(Microsoft)還是Android都是獨佔。但是AI不一樣,開發者可以用不同的運算單元來運作演算法,可以用CPU,也可以用GPU、DSP來支援,不會被某個硬體綁死;」林宗瑤認為,現在做AI的公司可能在某些節點會有些技術,但佈局不夠廣,而終端AI的產品線只有佈局夠廣,才會產生重大的影響:「能夠同時擁有這麼多產品線的,放眼全球也就聯發科技能做到。」

CPU+APU架構為開發者提供友善工具套件

「我們不會提供單獨的AI晶片,因為以現在很多客戶的能力很難支援單獨的CPU、GPU運算開發;」林宗瑤表示,對於一些中小客戶來說,因為研發能力有限,光是提供一個單獨的AI晶片還不夠。此外,聯發科技還會針對客戶提供可攜性和客製化需求,對於手機客戶和普通消費者來說,更關心的是AI硬體能搭配什麼樣的應用。

目前主流的AI相關應用包括臉部識別、臉部美化、場景檢測、手勢檢測、系統性能、語音辨識等,有些功能比如人臉解鎖和支付,需要跟軟體做整合,避免安全性的問題。林宗瑤表示,NeuroPilot人工智慧平台會支援目前市面上大多數常用的APP應用,例如智慧照相功能、語音及影像偵測或辨識等;也會針對一些專業性合作夥伴如商湯、曠視、思必馳、科大訊飛、有道等提供客製化需求。

20180208_MTK_NT61P6

「我們預期在2018年針對方案提供商提供功能,2019年會有很多APP有AI功能進來;」林宗瑤表示,過去MTK提供的是turnkey方案,現在提供AI平台將開放給所有的合作夥伴以及非專業的使用者,所以該公司會提供開發者友善的工具套件(SDK),未來會更強調工具套件的重要性,而且是朝向系統等級的。

除了生態不同,AI平台本身在晶片設計上也要滿足一些特殊的需求,比如性能和功率的平衡。由於AI演算法的演進非常快,硬體的性能要能夠跟得上演算法的變化。目前業內的普遍架構是CPU加上硬體加速器的做法,將一部分可能需要升級的演算法放到CPU,因為CPU可以靈活的處理各種演算法,但是運算效率較差;另一部分比較固定的演算法會放到硬體加速器中。

CPU對於演算法的彈性最好,但是效率最差,GPU更適合做圖像的運算,硬體加速器的效率最好但是彈性不夠。NeuroPilot採用的就是APU的方式,把目前已知的比較固定的80~90種演算法固定到APU中,剩下一些一直演進的10個演算法會放到CPU中,從而兼顧彈性和效率。「獨立的DSP會有一個好處,功耗效能會比較好,如Google的TPU效率比較好,但是彈性比較低;」林宗瑤表示,APU將會包含已獲得IP授權的DSP,未來也可能採用其他廠商的。

點評:MTK加入,千元AI入門機不再遙遠

曾幾何時,聯發科技全新的商業模式顛覆了整個傳統手機產業鏈格局,特別是對中國大陸的手機產業影響深遠,使得眾多普通消費者有機會用上物美價廉的智慧手機。聯發科技的競爭策略一直是「敢為天下後」,經過慎重佈局後謀定而後動,透過跟隨策略殺入戰場,最後憑藉性價比和服務在某一個時間節點實現「彎道超車」。

目前AI晶片平台成本還較高,主要被應用在高階旗艦機種,但在智慧手機進入創新瓶頸期的今天,AI將成為“5G”前手機廠商重要的一大賣點。筆者認為,聯發科技的AI平台推出不一定是最新、最快的,但是一旦推出,在成熟穩定度以及產品線的廣度、性價比上均佔據優勢,相信千元入門機上搭載AI平台的時間很快將會到來,而AI產業的競爭也將繼續升級。