自適應平台開創全新運算時代

作者 : Ivo Bolsens,賽靈思(Xilinx)技術長

自適應運算能夠從雲端部署到邊緣、再部署到終端,將最新的架構創新提供給端對端應用的每一個部分。這是在多種類型的自適應運算平台支持下得以實現的...

隨著智慧連網裝置的滲透,我們已來到半導體產業發展的拐點。這些智慧裝置充斥著我們的家庭、汽車、辦公室、工廠、城市和雲端。而實現無處不在的人工智慧(AI)的代價在於,驅動這些裝置的半導體元件所要承載的資料處理需求正呈指數級成長。

傳統產業定律捉襟見肘

過去五十年裡推動通用處理器和運算發展的主要力量已是強弩之末——丹納德縮放比例定律(Dennard Scaling)早在21世紀初就宣告失效。大約在同一時期,RISC 架構的改進空間也已飽和。此外,單核心元件性能和功耗/散熱性能演進也已達到瓶頸。

賽靈思(Xilinx)技術長Ivo Bolsens

賽靈思(Xilinx)技術長Ivo Bolsens

雖然具備多執行緒的多核心處理器有助於提供更高的輸送量,但在阿姆達爾定律(Amdahl’s Law)的影響下,也在2010年代早期露出疲態。在此同時,摩爾定律(Moore’s Law)開始趨緩。摩爾定律的一般概念是,處理器每兩年發展到一個新的製程節點,在晶片面積減半的同時,能夠實現更高的性能和更低的功耗。

如今,摩爾定律已無法再提供性能、功耗和晶片面積的改善;無論做出何種努力,這三者間只能視具體應用情況優化其中之一或之二,而且發展到下一個更小的製程節點所需時間也會超過兩年。隨著半導體製造技術的發展步伐趨緩,我們亟需足以推動產業持續發展的新動力。

架構創新:新興技術正驅動產業變革

傳統產業發展動力的減弱正鼓舞半導體產業內湧現出大量創新。其中一項日益重要的創新就是特定領域架構(DSA)的使用。

DSA是針對某個特定領域所優化的架構,例如AI推論。一個為優化AI推論而構建的DSA內建預先配置的邏輯、記憶體和互聯,以最佳化實現AI推論所需的處理類型——典型的MAC密集型數學運算。這種架構應具備靈活性,以支援在硬體中高效實現不同類型的神經網路層。

相較之下,通用處理器雖然能夠執行廣泛的應用,但通常它們既不能提供最佳性能,也無法提供最優功率,特別是對於像影像處理這類可以憑行化的應用。就推動當今和未來運算需求的工作負載而言,其平行化程度在不斷加深,常以串流或「即時」的形式存在,因此需要以低時延處理。

雖然ASSP能夠兼顧性能和功率效率,但功能固定。一旦需求發生改變,就需要更換新的晶片,從而導致大量成本、精力和時間的投入。簡而言之,業界對通用處理器和ASSP的需求將持續存在,然而隨著技術演進週期不斷加速,固定功能的晶片將越來越難以跟上需求的變化。

自適應運算的優勢

自適應運算以FPGA技術為基礎,支援在晶片上動態構建DSA。因此,自適應運算允許DSA 隨需求變化進行動態更新,從而避免受到漫長的ASIC設計週期和高昂的NRE成本約束。

隨著處理的分散式水準不斷提高,自適應運算不僅能夠支援軟體的無線(OTA)更新,也支援硬體無線更新——這一點尤其重要。例如2011 年發射的火星探測車「好奇號」(Curiosity)和近期發射的「毅力號」(Perseverance)都採用了自適應運算。

「毅力號」將自適應運算用於其綜合視覺處理器,它運用一款基於FPGA的平台進行構建,可以加速AI和非AI視覺任務,包括影像校正、過濾、檢測和匹配。在此同時,「毅力號」發回美國太空總署(NASA)的影像也會利用自適應運算進行處理。

如果在「毅力號」前往火星的八個月時間裡,有新的演算法出現或者發現了硬體缺陷,自適應運算允許技術人員透過無線或空間遠端發送硬體更新,就如同軟體更新一樣方便快捷。在進行遠端部署時,這種遠端硬體更新不僅攸關便利性的優化,更是一種剛需。

自適應運算能夠從雲端部署到邊緣、再部署到終端,將最新的架構創新提供給端對端應用的每一個部分。這是在多種類型的自適應運算平台支持下得以實現的——既有資料中心內PCIe加速器卡上的大容量元件,也有物聯網裝置終端處理所需的小型低功耗元件。

自適應運算可以用來構建所有類型的優化型DSA,從自動駕駛和即時視訊串流等時延敏感型應用,到5G訊號處理和非結構化資料庫資料處理,均可勝任。並且借助當今的硬體抽象工具,軟體和AI開發者現在都能充分發揮它的優勢,而無需成為硬體專家。

擁抱改變,未來可期

為什麼自適應運算的益處不容小覷?隨著數十億智慧連網裝置不斷地與彼此、與資料中心「對話」,所生成、處理和消耗的資料量是驚人的,而自適應運算能夠以更低的成本和功耗提供更強大的處理能力。

如此一來,既可以降低最終消費者的成本,還可以降低資料中心乃至整個網路的耗電量,實現真正的雙贏。在未來,對於通用處理器的需求將依然存在,但自適應元件在支援新運算時代中不斷成長的AI處理能力需求方面,將發揮關鍵作用。

本文原刊於《電子工程專輯》雜誌簡體中文版2021年2月號

 

 

加入LINE@,最新消息一手掌握!

發表評論