人工智慧(AI)並不是一種新的技術,但從2010年開始,由於深度學習的出現,通過大量的資料使得演算法可以自我升級,最終驅動了新一輪AI產業變革。這場變革不再僅由實驗室中的科學家推動,而是由資本和產品經理所推動。技術驅動的AI大潮,正在轉向應用驅動,對各行各業賦能。

2018年,AI將在哪七大應用市場爆發?

在剛過去不久的2018年CES展上,很多基於AI概念的應用開始真正落地。從展出產品來看,大致可分為三類:第一類是應用在汽車上的無人駕駛方案和先進駕駛輔助系統(ADAS);第二類是圍繞語音類的助手服務;第三類則是影像識別類產品。除此之外,各大手機廠商也紛紛將AI視為5G商用前手機業最大的技術變革。

整體來看,AI目前大量的應用還是在雲端,但是也開始出現了從雲端向終端轉移的趨勢。Intel 執行長科再奇(Brian Krzanich)認為,人工智慧將使不可能成為可能:如推進對癌症、帕金森氏症與大腦疾病的研究;幫助尋找失蹤兒童;進一步推動氣候變化、太空探索和海洋研究的科研工作。

啟英泰倫科技(Chipintelli Technology;編按:2015年成立於中國大陸成都的新創公司)總經理高君效認為,當前AI的應用首先要解決應用場景的問題,其次是找到真實的市場需求。在金融、電商、醫療等領域,透過雲端大數據的積累,智慧應用技術已經可以替代大量的人工,為企業節省人力成本;在終端側,由於AI晶片和高體驗感的配套解決產品方案的興起,在對安全私密性及處理回應及時性更為看重的消費電子領域能得到飛速發展,特別是在智慧家庭/家電設備、智慧硬體客製化等細分市場都能取得不錯的成績。

作為晶片IP公司的代表,Arm戰略聯盟業務發展總監金勇斌認為ADAS業務是一個熱點,但是否會迎來商業爆發還不好說,因為汽車對於安全的需求非常高。另一個熱點是安防,如智慧攝影機等泛監控類產品。透過機器視覺、影像分析等技術用於各種安全應用的視訊分析,如行人檢測、汽車檢測、人臉識別,能夠在商場和機場等場所識別不規則行為,並提供自動和即時的警報。這些技術也被應用在無人機領域用來進行感測、避免碰撞和導航。

深鑒科技(Deephi;編按:成立於2016年的中國大陸AI新創公司) CEO姚頌認為,在安防領域,AI是強需求,並且國內市場總量每年約6,000億元(人民幣);他指出:「2018年對於安防市場而言,是加速產品落地的一年,我們認為眾多AI公司會在2018年加速產品化進程。屆時在應用市場層面預計有新的爆發與增長。」

第三個熱點是醫療診斷,但是醫療行業的壁壘較高,加上應用場景比較碎片化,是否會形成規模還有待觀察。比特大陸產品戰略總監湯煒偉表示,日前央視《機智過人》節目展示了一款中科大聯合研製的醫療影像機器人,邀請15位三甲醫院主任級專家與這個AI機器人PK醫療影像診斷,結果AI機器人勝出。有了這種AI機器人,未來可以在很多偏遠地區,以及小城鎮進行遠端醫療診斷,提高落後地區的醫療水準。

第四個熱點是基於語音的智慧音箱,目前亞馬遜(Amazon)的ALEX以及中國的智慧語音設備爆發很快,未來的關注點是如何形成從感知端到後端服務的商業閉環。

第五個熱點是智慧手機,目前AI技術在手機的應用主要包括人臉檢測和識別、刷臉支付、自動相冊標籤的場景識別分類、以及根據場景能自動優化相機設置(例如日光、弱光、運動、臉部等)、此外還包括一些虛擬顯示技術。轉換到實際體驗中,AI本身也將影響到手機中的一切基礎體驗,比如個人健康監控;在遊戲中,AI能夠對使用者本身的操作邏輯和習慣進行偵測,隨後會在網路狀況或是系統資源不足時提前做出預判以保證遊戲的順利進行;當手機拍照時,機器學習還能自動對用戶的構圖、對焦點進行預判,從而提高相機的表現。

第六個熱點是智慧城市。中科創達(Thundersoft)副總裁楊宇欣認為,AI是一種工具,將更多和傳統行業結合。智慧城市體量足夠大,急需一些技術去改善流程和成本。目前已經看到一些透過AI來進行城市環境監控的應用。湯煒偉也表示,透過AI技術可以更好的利用城市大資料,挖掘重要的民生資訊,最終將資訊用於市政決策,產生社會效益。

第七個熱點是工業。湯煒偉表示,目前AI技術主要應用在生產線的檢測不良,以及物流上的包裹體積檢測上:「我們現在正幫日本的客戶通過視覺的方式去監測產品的裂痕。」

從雲端到終端,AI晶片公司如何佈局?

組成AI的三大要素包括演算法、算力和資料。演算法和資料的積累和演進已經持續了很多年,從運算發展的路徑來看,由於算力有限,一開始都是靠演算法解決問題,所以國內資本一開始重點關注雲端演算法公司,比如商湯、曠視、雲從、依圖四家演算法公司,李開複稱他們為人臉識別的“四個獨角獸”。

隨著算力上升,演算法差異不再明顯,這時資本開始關注提供算力的公司,如地平線、深鑒科技、寒武紀、雲天勵飛四家公司。除了這些開發專用AI晶片的公司,各大晶片廠商也紛紛佈局AI平台,可以說2017年是AI晶片的元年。

對於晶片IP廠商來說,AI是一個新的機會,也是新的挑戰。金勇斌表示,儘管越來越多的公司在做專用硬體加速器,但是CPU仍然不可或缺;憑藉ARM現有的晶片和軟體巨大生態,足以構建以“CPU+專用加速器”為主的子系統。

對於Arm來說,目前可以提供全套的CPU、GPU、深度學習加速器產品線,同時2018年還會陸續公佈新的產品。除了在終端佈局,Arm也在積極發力雲端,通過Arm的伺服器技術把終端設備管理起來,形成雲端服務。金勇斌表示:「簡單一句話,終端肯定是第一優先順序,但雲端是我們的發力點。」

另一家IP公司CEVA也針對AI推出了專用處理器NeuPro系列,包含四個獨立的專用AI處理器,主要用於終端設備上處理全部深度神經網路工作負載。針對每個應用層精確地搭配了不同的硬體、軟體和可配置性能選項,從而實現對功耗、性能和麵積(PPA)的優化。據介紹,CEVA將在2018年第二季為特選客戶提供NeuPro授權許可,並於第三季提供普遍授權。

CEVA視覺產品市場主管Liran Bar表示,目前已有數十家客戶在消費、監控和ADAS產品中部署了CEVA-XM4和CEVA-XM6視覺平台,與CDNN神經網路軟體框架。這個全新的專用AI處理器提供出眾的性能提升,範圍從入門級處理器的每秒2萬億次運算(2TOPS)到最高級配置的12.5TOPS。NeuPro處理器產品系列將AI的應用擴展到機器視覺以外的新型前端應用,包括自然語言處理、即時翻譯、認證、工作流管理,以及許多基於學習的其它應用,使設備變得更加智慧,並減少人工參與。

CEVA副總裁兼視覺業務部門總經理Ilan Yona表示:「AI應用程式趨向於前端處理,而不是依靠雲服務。前端處理所需要的計算能力,以及低功耗約束,要求使用專用處理器,而不是使用CPU、GPU或DSP。我們設計了NeuPro處理器,從架構和軟體上都降低了進入AI領域的高門檻。我們的客戶現在擁有經過優化和高效的標準AI平台,可完成眾多基於AI的工作和應用。」

Intel對AI佈局也非常早,Intel CEO 科再奇表示,Nervana神經網路處理器系列(前身為“Lake Crest”,簡稱Nervana NNP)經過3年的開發和製造終於上市,他認為機器學習和深度學習很快發展成為這個時代最重要的計算負載,儘管目前Intel至強可擴展處理器和Intel資料中心加速器可以支援當今絕大多數企業的通用機器學習和推理負載。不過在終端側,客戶需要滿足不斷變化的資料處理需求。

Intel Nervana NNP是專門為深度學習構建的,這種新晶片的目的就是讓深度學習基元更為靈活,同時讓核心硬體元件盡可能的高效。Nervana NNP產品線不僅包含Intel至強可擴展處理器系列,還包含用於主動安全和自動駕駛等專門用途的視覺技術Intel Mobileye,用於深度學習推理的可程式設計加速器(FPGA)、邊緣提供機器學習的低功耗視覺技術Movidius。科再奇表示:「我們設計Intel Nervana NNP是為了把人們從現有設備所造成的限制中解放出來,因為現有的很多硬體並不是針對人工智慧而設計的。」

2017年9月,華為在IFA展上正式發佈麒麟970晶片。據報導,華為麒麟970是全球首款內置神經元網路單元(NPU)的AI處理器,NPU運算能力達到1.92TFP16 。「我們有幸走到了這件事(AI)的前面,我們的麒麟970跟iPhone X的A11是在手機終端率先推出產品;」華為麒麟晶片市場總監周晨表示:「我們自己有GPU、DSP資源,把異構這件事做好以後,對於協力廠商的未知應用都盡可能加速到。因為手機是開放型平台,所以我們必須這樣做。」

周晨表示,麒麟的定位就是平台算力的提供者,同時會提供SDK讓開發者來執行自己的應用程式和演算法:「再往上可能華為在手機端會提供一些業務級的介面,這些介面不需要開發者自己來做演算法,比如卡路里識別,App只要直接調用介面就可以了。」

相對華為而言,高通並沒有效仿整合NPU的做法,而是依舊集合內部元件進行分散AI運算。因此高通(Qualcomm)認為其驍龍(Snapdragon) 845行動平台已是第三代支援神經網路運算的旗艦SoC。由於AI運算帶來更精準的人臉識別演算法,高通驍龍845行動平台也能在SoC中提供類似於iPhone X的結構光,以及3D偵測的人臉識別特性。

值得一提的是,高通SNPE神經網路引擎SDK就像是一個通用的神經運算平台,它能夠相容Google TensorFlowLite、Oaffe2、CNTK、MxNet等多個神經元架構,這意味著開發者無需進行太多更改,直接就能將代碼和演算法套用到裝配有高通驍龍845移動平台的設備中,依靠高通所提供的SNPE神經網路引擎SDK,開發者還能實現更多的功能。

在手機晶片廠商紛紛高調推出各自的AI平台後,聯發科技(MTK)也在最近推出了自己的AI平台NeuroPilot。與競爭對手有所不同的是,聯發科技的AI平台不僅僅是針對智慧手機,而是首次將終端人工智慧(Edge AI)帶入各種跨平台設備──從智慧手機、智慧家庭到自動駕駛汽車等。

「我們看到AI未來將會無所不在,聯發科技希望做終端人工智慧的推動者,提供跨平台的完整軟硬體的整合方案。幫助我們的合作夥伴大幅減少開發時間;」 聯發科技CTO辦公室協理(Assistant GM) 林宗瑤表示,聯發科技將提供完整的人工智慧解決方案,透過整合硬體(AI處理器:Artificial intelligence Processing Unit)及軟體(如NeuroPilot SDK),讓每年約15億台採用聯發科技晶片的各類消費性電子產品具備AI能力。

在2017年年初,聯發科技副董事長兼總經理謝清江就在接受《電子工程專輯》專訪時表示,聯發科技將斥資2000億,在未來投資AI、5G等八大技術領域。謝慶江認為,AI是一個技術趨勢,會帶來很多新的商業機會:「大家知道AI要增加很多運算,很多半導體的機會就會出來。比如說一些低功耗的單元,或者說和雲端互連的能力技術。」

實際上,到2017年聯發科技在智慧語音終端領域已經佔據七成比例,獨佔了亞馬遜Echo、Essential Home智慧語音助理的全部訂單,其後又拿下了阿里巴巴的智慧音箱訂單。作為智慧家庭的中樞控制器,聯發科技有望憑藉智慧音箱進一步進軍智慧家居市場。

除了眾多的SoC廠商,FPGA廠商也提早佈局AI領域。由於很多AI演算法還在不斷的升級和改變中,由於FPGA的可程式設計性,使其可以靈活適應各種AI演算法的變化。2017年賽靈思推出了Xilinx reVISION 堆疊,意味著將廣泛的視覺導向機器學習應用領域得到實現。

reVISION 正在汽車、醫療、工業、傳統的高端消費市場航太航空與國防中實現一系列快速增長。此外,如協作機器人、自動駕駛汽車、自動監控、具有“感應和躲避”功能的無人機、增強現實和醫療診斷等新應用也迅速跟進。對於賽靈思來說,2018年AI將是其關注的重點,目前FPGA的應用領域主要集中在伺服器端如雲端運算、大數據分析等。

2017年賽靈思的平台不僅被亞馬遜的語音運算平台採用,同時中國大陸業者華為、騰訊、阿里巴巴也是透過賽靈思的FPGA來進行雲端運算和加速運算。去年亞馬遜就與賽靈思合作,推出了基於FPGA的亞馬遜雲服務、百度大腦也使用了基於FPGA版的AI專用晶片、騰訊雲也發佈了FPGA雲伺服器等。

展望2018年,賽靈思希望在保持雲端的市場外,進一步開拓AI在終端的應用。除了SoC廠商重點關注的手機市場外,賽靈思比較看好工業、汽車等領域;賽靈思全球銷售和市場部亞太及日本地區高級總監Stephen Chow(周海天)表示:「這一塊賽靈思的切入點主要是機器視覺,大家可以看到今天的攝像頭越來越智慧化,並且是從雲端的智慧向本地的智慧轉移。」

不過FPGA雖然好處很多,但是門檻也較高,需要開發人員懂得硬體描述語言(Verilog或VHDL)而非電腦語言(C語言)。這就給了深鑒科技這樣的公司機會,深鑒科技相當於給不願意直接使用FPGA的廠商提供了一個帶介面的黑盒子,廠商只需要把演算法模型訓練好後,透過介面輸入就可以得到輸出結果。

目前深鑒科技的合作夥伴集中在無人機、安防、資料中心等領域,合作企業包括零度智控、東方網力、搜狗等。深鑒科技也與三星在儲存方面合作,為AI晶片打造以深度學習處理器為核心的智慧化解決方案。據瞭解,深鑒科技在2018年還會有一款名為聽濤的SoC上市。

這款SoC採用聯發科技28nm台積電(TSMC)製程,僅用1.1W功耗就可以達到4.1TOPS的峰值性能。深鑒科技的定位是深度學習平台公司,公司以DPU為核心打造解決方案,不僅僅是提供晶片,還提供行業內的整體的介面和SDK,方便所有人使用。深鑒科技CEO姚頌表示:「我們的目標是不僅打造最好的深度學習處理器技術,也要打造最好用的解決方案和最高效的整體系統。」

在中國,除了地平線、寒武紀、深鑒科技等資本圈重點關注的“明星企業”,其實還有不少玩家正在殺入AI產業。2015年11月成立的啟英泰倫就自主研發了第一代AI語音晶片CI1006,並在2017年實現量產,是業界首款AI終端離線語音辨識專用晶片;與目前大部分專注影像視覺的公司不同,啟英泰倫多專注於智慧語音領域,正力爭成為該細分領域的領跑者。

另一家在本次CES嶄露頭角的中國大陸本土AI晶片公司為眼擎科技(eyemore)。眼擎科技的主業在視覺採集端的演算法和晶片上,著重研究AI算力和演算法的交互邏輯。眼擎科技今年1月19日發佈了全球首款面向AI視覺的專用成像晶片eyemoreX42,在AI產業中,眼擎科技是唯一一家專注于高品質成像的AI視覺晶片公司,注重跟AI交互解決應用場景問題的公司。重點關注基於人臉識別的泛安防、工業檢測、機器人、自動駕駛、無人零售市場以及手機市場,三年內,眼擎科技的目標是完成500家AI視覺客戶的Design-in,佔領50%以上的AI視覺成像市場,成為成像領域的領導者。

最後不得不提的是一家頗為低調的公司——比特大陸(Bitmain),這家公司是因為提供比特幣礦機和礦池被外界熟知,目前該公司已經擁有全網算力的18%,2017年約收入18萬比特幣。2017年底,比特大陸正式發佈旗下算豐TPU晶片BM1680,正式進軍AI領域。BM1680是一款針對深度學習應用的張量計算加速處理的專用客製化晶片,適用於CNN、RNN、DNN等深度神經網路的推理預測(Inference)和訓練(Training)。

基於BM1680晶片,比特大陸提供算豐 SC1和SC1+的板卡產品。同時比特大陸發佈了智慧視頻分析伺服器算豐 SS1,這是一款新的深度學習伺服器,專門為視訊監控、網際網路影像處理等多種應用場景提供強大的深度學習加速能力。按照規劃,2018年比特大陸將發佈第2代算豐AI晶片BM1682,計算力將有大幅提升。後續規劃中還有第三代、第四代等陸續發佈。

比特大陸產品戰略總監湯煒偉表示,按照規劃每隔9個月左右就會推出新的算豐AI晶片,而再過一兩代,比特大陸有信心在深度學習推理上超過GPU的實際性能。同時,比特大陸將圍繞算豐AI晶片,不斷為各個落地場景提供創新解決方案。目前發佈的智慧視頻分析伺服器SS1,是專為視訊和影像智慧分析而打造的伺服器系統,基於自主研發的張量加速處理器BM1680和加速卡SC1+,具有人臉檢測、人臉識別、人體檢測、機非人檢測分類等標準功能。未來比特大陸將為更多安防、大資料、互聯網等場景,提供創新解決方案。

用FPGA還是專用ASIC?

談完了應用佈局,我們回到具體硬體上來。如此多的玩家同時闖入終端AI晶片領域,針對大量不同的細分市場和應用需求,下一代AI晶片的技術發展到底往哪個方向走呢?,是採用FPGA還是專用ASIC呢?

 
繼續閱讀:2018年AI晶片爆發倒數計時(下)

本文原刊於EE Times China網站,責編:Judith Cheng