邊緣、區域或中央:為ADAS架構取得平衡

2022-11-10
作者 Gil Abraham,CEVA視覺業務部門的業務發展總監

在未來5年間,ADAS和資訊娛樂系統的處理效能將會大幅成長,從AI、一般運算,從邊緣到區域再轉為中央管理的演變…都出現進一步發展。

最近的分析報告顯示,在未來5年間,先進駕駛輔助系統(ADAS)和資訊娛樂系統的處理效能將會大幅成長。從AI、一般運算,到OEM在建構電子內容上從邊緣到區域再轉為中央管理的演變,許多方面都出現進一步發展。對於希望從這種成長中獲益的任何系統建置者來說,關鍵考量之一是如何透過整合的產品系列來因應這些多樣化的汽車架構需求。

 

(來源:CEVA)

 

ADAS市場機會

Yole Group的報告表示,透過主動式安全功能與數位駕駛艙的直接創新,加上相關技術與法規的進步推動駕駛與乘客監控系統等技術,系統處理效能將在未來5年內出現高達3倍的成長。其中一個問題是這類成長發生在哪些領域,是邊緣系統的感測器、各區域的中央處理,還是汽車的中央處理。與步調較慢的集中式系統相比,創新的主力仍然在邊緣系統,而新進廠商也能在這些領域引進具競爭力的解決方案。相反地,成本、安全性和中央軟體控制則持續朝集中化推展。

從邊緣處理到中央處理

在ADAS出現之前,汽車電子裝置的快速成長促使OEM重新思考要如何分配這些電子裝置。邊緣偵測現在加速了這項需求。部分問題在於資料通訊的成本與管理,而這又因智慧偵測而變得更加複雜,畢竟從邊緣傳輸資料以進行整合式處理,其中涉及的繁重配線會大量消耗電力。

然而,感測器融合必須融合來自多個感測器視角和類型的資料,而且這些資料常無法在邊緣或中央完美整合。我們需要邊緣AI快速辨識和減少資料,但是現在通訊和融合把部分AI推到了區域處理器。同時,隨著開始使用擁有一定自主性的智慧車輛,這些智慧功能必須在駕駛策略管理系統的指示下整合分散式輸入項。這種AI無法分散。為了安全,以及整合方面的考量,必須使用中央控制器來處理這種AI。

 

 

顯然,我們需要三種不同類別(邊緣、區域和中央)的ADAS處理,並搭配三種不同的設定。邊緣AI必須持續維持快速運算且低成本的狀態(因為汽車周圍將會裝設許多邊緣AI),單一處理器的運算力最多可高達5TOPS。至於區域處理器,由於要整合多個邊緣裝置的輸入內容,必須提供更高等級的平行處理與效能,因此需要更高級的高階多核心實作,運算力最多可高達20TOPS。最後,以中央處理的駕駛策略引擎必須根據情境訓練的行為進行推斷,而且可能需要有能力執行某種程度的即時訓練。這樣的引擎很可能會是高階多小晶片裝置,每張小晶片都包含多核心,最多可支援200TOPS以上的運算力。

擴充能力對ADAS有何意義?

目前還不清楚在眾多低成本的邊緣裝置、數量較少但價格較高的高階區域性裝置,以及每部車可能只有一個的高階中央裝置之間,廠商的獲利機會將來自於何處。明智的投資選擇似乎是為每個市場區隔中的大好機會做足準備。有鑑於此,系統單晶片(SoC)產品開發人員該如何架構解決方案?

訓練、最佳化和基礎架構軟體是部署ADAS系統時需要極高投資的領域。在整個產品系列中持續支援這些領域,將會成為在商務上取得成功的關鍵。相較於區域或中央解決方案,邊緣解決方案可能會傾向用於較小的目標,但也應該要提供具有相同核心功能而性能較低的版本。如此一來,就能編譯一個受過相同訓練的網路,並具備不同的編譯器選項,進而能推論至邊緣、區域和中央解決方案。

相對的,AI硬體平台也應允許向上/向下擴充。一個相同的架構,可部署為單一神經引擎或多個平行引擎,並提供一致的資料流量控制和記憶體階層最佳化,甚至可視需要擴充為多小晶片實作。

然而,難題來了。為何網路開發人員只因解決方案必須擴充規模,就得放棄他們熟知能提升效能和降低功耗的最佳化方法?他們應該要能用所有最先進的AI方法來達成目標。以Winograd轉換為例,它以較低功率提供了2倍效能,並且大幅減少詞彙寬度,也幾乎不會降低精準性。它是高階推論的熱門選項。

或者以完全混合精度的神經MAC陣列為例,它能支援各種啟動和重量資料類型。轉換層精度可大幅降低記憶體需求與功耗。稀疏引擎又使效能進一步提升,讓運算時不再需要乘上低精度層中越來越普遍的零值。如此可提升效能,並降低功耗。

自訂運作是最先進的加速器中必備的要素。其中一種將自訂運作新增至推論的方法是透過外部加速器。另一種方式是在與原生引擎位於相同層級的內嵌式向量處理單元中執行計算。

新一代的網路架構可以利用更多功能,例如完全連接的層級、RNN、轉換器、3D卷積和矩陣分解。

消費者會希望中央高階引擎也具備上述所有功能。但不論是中央高階引擎、區域引擎還是邊緣引擎,也都需要它們在軟體和網路開發上具有擴充性。還需要同樣可擴充的硬體平台、讀取受過相同最先進訓練的網路,並根據每個目標進行對應和適度調整規模。

 

 

 

 

活動簡介

人工智慧(AI)無所不在。這一波AI浪潮正重塑並徹底改變科技產業甚至整個世界的未來。如何有效利用AI協助設計與開發?如何透過AI從設計、製造到生產創造增強的體驗?如何以AI作為轉型與變革的力量?打造綠色永續未來?AI面對的風險和影響又是什麼?

AI⁺ 技術論壇聚焦人工智慧/機器學習(AI/ML)技術,涵蓋從雲端到邊緣、從硬體到軟體、從演算法到架構的AI/ML技術相關基礎設施之設計、應用與部署,協助您全面掌握AI最新技術趨勢與創新,接軌AI生態系佈局,讓機器學習更快速、更經濟、更聰明也更有效率。

贊助廠商

發表評論

訂閱EETT電子報