在500萬人的城市中每年拯救30~300人的生命;令人們日均通勤時間縮短15~30分鐘;每天人均節水量25~80升;犯罪率降低30~40%;疾病負擔降低8~15%;應急回應時間縮短20~35%...根據麥肯錫的這份報告顯示,現在起到2025年,人工智慧(AI)會讓關鍵生活品質指標提升60%,讓生活變得更安全更美好。

回首過去的100年間,整個運算的演進歷程從最早的類比(機械)運算到電子運算,受益於摩爾定律,技術得以快速推動。1990年時,全球約有15億台個人電腦終端,2007年進入智慧手機時代後,這一數字翻倍來到了30億。2016年的AlphaGo讓大眾認識了AI,也拉開了AI時代的序幕。時至今日,AI以各種形式落地,平均每個人身邊都有數個智慧裝置,預計到2020年,智慧型機器數量將數倍於全球總人口數,這裡面蘊含前所未有的商業機會。

AI是好東西,但是它面臨巨大的挑戰。首先就是隱私問題,AI設備遍佈在我們身邊採集資料,包括人像這種敏感性資料。西方社會近些年已經嚴格地去立法管控個人隱私,比如說人臉、車牌等信息。如何讓大家充分享受AI便利的同時,又能保護隱私?

「原始資料送到雲端以後將變得不可控,因此我們認為應該選擇邊緣運算;」在10月29日地平線(Horizon Robotics)的新產品發佈會上,地平線聯合創始人&技術副總裁黃暢(文章上方大圖)表示:「原始資料在邊緣採集時就能得到有效處理,脫敏之後再送到雲端,這是歐洲現在最主流的一種隱私保護解決方案。」

第二個挑戰是訓練和推理後面產生的巨大碳排放,這需要將演算法、軟體和晶片充分結合,針對AI應用領域推出專門的架構,提升整體的效能。第三個挑戰來自現實業務的訴求,「現實客戶的需求非常長尾、碎片化,但是大家如果去安博會上走一走,就會看到這個行業大家真正能夠提供落地的東西非常同質化;」黃暢表示:「好比你只有七巧板,是很難搭建起樂高這樣非常繁複、非常貼近碎片化、個性化的需求的產品。地平線對此的解決方案是通過開放生態和協力廠商下游社區,吸引更多人參與到共創過程中,去滿足各式各樣的長尾需求,從而豐富整個技術的提供。」

最後一個典型挑戰,就是在很多傳統產業中過去有非常多很好的應用,但是在AI時代,他們希望能夠得到AI加持,進一步挖掘它的價值,提升它的效率,這就需要一個完整且易於整合的系統級方案。

20191104_HorizonRobotics_NT61P2

旭日二代與核心板

為了解決以上幾個AI落地的挑戰,地平線推出了新一代AIoT智慧應用加速引擎——旭日二代邊緣 AI 晶片及一站式全場景晶片解決方案。同時,地平線再次強調了其智慧物聯戰略,即通過晶片架構創新重新定義效能比,打造一站式全場景解決方案,以底層技術賦能構建開放生態,不做上層業務應用,助力產業參與者應對普惠 AI 時代的資料運算挑戰。

旭日一代是在2017年底發佈的,據黃暢介紹,一年多的時間落地出貨量就超過了10萬片。作為一個晶片產業的新軍,一代晶片就能到達這樣的銷量,而且是AI晶片,著實不易。

旭日二代開啟 AIoT 「芯」時代

旭日二代是地平線針對未來物聯網推出的新一代智慧應用加速引擎,採用28奈米製程,在旭日二代上的實際測試結果表明,分類模型 MobileNet V2的運行速度超過每秒700張圖片,檢測模型Yolo V3的運行速度超過每秒40張圖片。在運行這些高效模型方面,旭日二代能夠達到甚至超過業內標稱4TOPS算力的AI晶片,而其功耗僅為2W。

20191104_HorizonRobotics_NT61P3

地平線旭日二代晶片核心參數

黃暢在發佈會現場表示:「地平線對重要應用場景中的關鍵演算法發展趨勢進行預判,前瞻性地將其運算特點融入到晶片架構的設計當中。因此,與其他典型的 AI 晶片相比,地平線的 AI 晶片隨著演算法的演進趨勢,始終能夠保持相當高的有效利用率,比如說它典型的演算法模型算力利用率是超過90%的,這在業界幾乎絕無僅有。」

黃暢表示,經典晶片性能評估方式是PPA──功耗(Power)、性能(Performance)、面積(Area)──AI晶片真實性能常用Tops/Watt與Tops/$來呈現。黃暢認為,這種評估方式沒有充分考慮演算法的發展趨勢,讓AI晶片在採用新演算法時往往利用率顯著下降。

20191104_HorizonRobotics_NT61P4

「真實性能應該是能效、利用率、演算法能力的乘積。這意味著不僅要對晶片和演算法進行優化,還要對連接兩者的編譯器等中間環節進行優化,最終達成全面的優化;」黃暢說:「以編譯器優化所帶來的利用率提升為例,即便有架構自動優化,有編譯器相比沒編譯器的情況,單幀頻寬消耗可從每幀141.9MB降到每幀34.4MB,單幀運算延遲可從43.77毫秒降到25.1毫秒,而運算資源利用率可從57%提升到95%。」

20191104_HorizonRobotics_NT61P5

針對物聯網場景下的主要目標群體「人」和「車」,旭日二代進行了大量的演算法優化,整合地平線第二代BPU架構(伯努利架構),在邊緣端即可實現全視訊結構化能力,高效靈活地處理多類AI任務,包括10~30萬人前端識別、密集人群時空屬性行為分析,多種非機動車、機動車檢測分類。黃暢表示,透過地平線的前期客戶驗證,旭日二代可完全滿足商業、辦公、社區、園區、教育等物聯網場景需求。

20191104_HorizonRobotics_NT61P6

此外地平線還提供完整晶片工具鏈——「天工開物」(Horizon OpenExplorer),工具鏈兼備視覺化調優調試工具、豐富的演算法樣例,能夠為不同類型客戶提供全面開放的賦能服務。基於生態開放協同理念,地平線還加入96 Boards 社群並推出符合社群規範的邊緣AI開發套件BOOTPRINT X2,為AI開發者提供「開發武器」。

20191104_HorizonRobotics_NT61P7

目前旭日二代支持MXNet和TensorFlow等訓練框架,預計明年年初支持PyTorch。相較而言海思只支持Caffe,一些主流安防終端廠商會因為這個而做出選擇。

20191104_HorizonRobotics_NT61P8

從現場公佈的產品Roadmap我們還得知,旭日三代將於明年推出,是一款完整SoC方案,提供多種算力配置和多Camera輸入支援,更好地整合多路的視訊接入、視訊處理、ISP、視訊編輯碼壓縮等技術。

20191104_HorizonRobotics_NT61P9

解決終端客戶五大痛點

地平線副總裁兼智慧物聯晶片方案產品線總經理張永謙在發佈旭日二代AI晶片解決方案Horizon Hero時說道:「得益於旭日AI晶片及深度學習演算法,地平線智慧物聯晶片解決方案兼備性價比的AI晶片、極致功耗的效率、開放易用的平台、端雲協同的方案、全面賦能的服務,可助力合作夥伴加速數位化管理,實現資料獲取、存儲、分析到優化的服務閉環,提升其市場競爭力。」

目前,地平線已形成了包括智慧攝影機方案Hero Sights系列、人臉通行門禁&考勤方案Hero Spark系列、智慧邊緣分析盒HeroStream等形態在內的地平線Hero一站式全場景邊緣AI晶片解決方案,方案整合地平線AI晶片、演算法、軟體及攝像頭模組,支援客戶快速應用與落地量產,如打造具備高性能人臉識別技術的出入口門禁、可視對講、辦公考勤等產品。

20191104_HorizonRobotics_NT61P10

地平線副總裁兼智慧物聯晶片方案產品線總經理張永謙發佈 Hero 系列解決方案

張永謙還總結了一下地平線進入這個產業以來發現的客戶痛點,這也是他們為什麼要做這個Hero解決方案的初衷。

首先,智慧化是AI落地核心的價值點,現在落地需求最強烈的仍然是圍繞人的應用場景,所以地平線打造了一個全場景立體化圍繞人的智慧演算法集,幫助客戶快速讓產品有智慧。但是光有演算法集還不行,其實線下場景的多樣化、碎片化是非常嚴重的,所以針對客戶不同的應用,在演算法集合的基礎之上還有一層演算法策略能力集。

20191104_HorizonRobotics_NT61P11

其次,有了演算法和策略,如果沒有圖像品質,再好的產品都出不來。使用者在做產品開發的過程中,決定產品品質的因素非常多,首先要有鏡頭、影像感測器、ISP,針對不同場景還要選擇不同的補光,「甚至包括有一些像智慧面板交互的產品,連玻璃的材質都要考慮到;」 張永謙說到:「我們的圖像調優團隊會把各個場景裡面圖像部分的要素集成在一起,給客戶提供完整的圖像調優解決方案,一個智慧化落地的核心能力包。」

20191104_HorizonRobotics_NT61P12

第三,要讓客戶快速地開發上層應用,需要在軟體架構上把端和邊都打通,整個軟體架構必須是一體化的。在這個基礎上,只要在端模組上加上演算法配置和通道管理模組,就可以迅速形成邊緣側的軟體架構。地平線做了很多對裝置管理、通用介面庫、OTA升級、雲對接SDK,支援客戶快速開發應用,這套軟體框架支援Android和Linux。

20191104_HorizonRobotics_NT61P13

第四,現在大家都希望快速完成硬體設計。地平線的做法是提供核心板,使用者不需要研究透地平線晶片,就可以用核心模組和他們底層應用板或介面板快速實現硬體結合,張永謙表示:「同時我們也提供完整的原理圖和PCB Layout設計,如果客戶想選擇更熟悉的元器件,我們也可以幫助他們在元器件上做整合和集成。」

20191104_HorizonRobotics_NT61P14

最後就是怎樣快速地完成系統整合。光有硬體上的核心設計仍然不夠,很多終端廠商拿到整套方案後,做出來分析的效果仍然不好,這跟很多其他的因素相關。這時候就需要在補光燈、語音模組和刷卡模組用到一些模組化的參考設計,與此同時地平線還會提供結構和熱設計。

20191104_HorizonRobotics_NT61P15

張永謙表示,相較於市場上的 AI 方案,Hero 在以下方面擁有明顯的落地優勢:

  1. 邊緣運算:本地端即可完成運算,資料無需上傳到雲端;
  2. 軟硬結合:演算法與晶片協同優化,使方案兼具高性能、低功耗特點;
  3. 端邊結合:方案覆蓋智慧攝影機,面板機以及智慧分析盒;
  4. 全場景一站式方案:完整解決方案支援客戶快速應用開發和量產。

20191104_HorizonRobotics_NT61P16

張永謙說:「地平線將持續深化在 AIoT 領域的戰略佈局與行業場景滲透,發揮軟硬結合優勢,通過晶片工具鏈與全場景一站式解決方案賦能行業,讓合作夥伴真正實現『小投入、快量產』,讓下游客戶可以更容易的落地行業場景,加速普惠 AI 時代的到來。」

4年來的戰績

地平線從2015 年創立之初便聚焦邊緣人工智慧晶片領域,4年的時間,地平線留下了一些重要的軌跡。2015年9月,啟動第一代人工智慧運算架構 BPU 研發;2017年6月,成為全球首家在台積電投片的AI晶片公司;2017年12月,發佈中國首款邊緣AI晶片;2018年4月,成為首個賦能海外RoboTaxi商業落地的中國大陸AI晶片公司;2019年8月,宣佈量產中國首款車規級 AI 晶片——征程二代。

20191104_HorizonRobotics_NT61P17

地平線在 AIoT 領域部分可公開合作夥伴

據地平線介紹,在AIoT領域,旭日系列晶片解決方案截至目前出貨量已達數十萬套,是中國大陸出貨量最大的AI晶片方案。目前,地平線已擁有上百家AIoT合作夥伴,其中包括產業界Top 5中的3家,在智慧社區、智慧商業、智慧建築、智慧校園、智慧辦公等典型場景與頂尖產業客戶完成合作落地,實現線下場景服務數千萬人口。在商業化進程中優質客戶案例的落地,往往能在助推產業智慧升級中發揮標竿示範效應,如商米、冠林、多度、SK電訊等。

地平線的策略是基於邊緣 AI 晶片,打造一個多層次、多維度、多樣性的開放生態體系。黃暢表示:「在產業鏈賦能方面,地平線堅持底層技術能力研發與解決方案的打造,加速普惠 AI 時代到來;在開發者生態方面,地平線則通過工具鏈服務降低開發者門檻,助力上層應用產生,以此豐富整個 AIoT 應用生態,用行業的力量推動行業。」

20191104_HorizonRobotics_NT61P18

地平線開放賦能生態體系

(本文原刊於EE Times China)