總部位於英國的新創IP供應商UltraSoC擴充其晶片分析架構,針對複雜的機器學習(ML)、人工智慧(AI)和平行運算晶片進行監測和分析;這些晶片由多達 6萬5,536個單元構成。

新架構將導入該公司的UltraDevelop 2整合開發環境(IDE),允許系統單晶片(SoC)設計工程師建立具有高達6萬5,536個單元的晶片上(on-chip)監測和分析系統,提供對系統中數千個處理器之無縫支援;這種架構適用於監測構成複雜SoC產品的大量內部功能區塊,並分析那些功能區塊之間的交互作用對晶片的系統層級行為產生之影響。

所謂的異質多核心晶片越來越普及,特別是需要機器學習與人工智慧等先進技術的應用領域,像是自動駕駛車輛。除了現代SoC的龐大規模,機器學習和人工智慧演算法的本質通常是非確定性(non-deterministic)──因為它們透過「學習」來構思自己解決問題的方法,所以系統的開發人員不可能預測它們最後會有哪些行為。因此,監測晶片行為是了解晶片和系統實際運作情況的唯一方法。

UltraSoC表示,此系統級的監測和分析功能不僅包括晶片的核心處理元件,也擴展到系統的所有部分,其中可能包括數千個IP功能區塊和子系統、匯流排、互連和軟體。UltraSoC架構中的新功能讓晶片開發人員在單一基礎架構中,得以建置數萬個監測與分析模組。透過提供整合、一致的系統行為分析,號稱可減輕新一代機器學習和人工智慧應用程式的開發負擔,並實現了以硬體為基礎的安全和功能安全性等產品功能。

UltraSoC架構未來的版本演進,目標是支援Exascale等級系統更高數量的處理器;除了功能的升級,該公司也新增了系統記憶體緩衝區(SMB) IP,讓嵌入式分析架構能處理多核心系統所產生的大量資料,以因應現實世界「暴增」的資料流量。

UltraSoC執行長Rupert Baines表示:「我們的解決方案在市場上獨樹一格,能夠處理多個異質處理器、標準和專有匯流排架構,甚至客製化邏輯。此架構的顯著擴充性使我們比起傳統解決方案在除錯和開發方面更為領先,並讓我們的客戶整合監控功能,以確保安全性、功能安全,以及實際性能的最佳化。」

針對ML與AI應用開發節能高性能運算系統的公司Esperant創辦人暨執行長Dave Ditzel則表示,他們的產品在一顆晶片上整合了上千個 RISC-V處理器核心和 AI/ML 加速器,而UltraSoC能支援這種等級晶片之監控、分析和除錯的能力,是該公司推動業務的重要因素。Esperant目前是UltraSoC的大客戶,其系統擁有採用單一架構的4,000顆核心,以及採用另一種架構的另外64顆核心,所有的核心都是以RISC-V架構為基礎。

20190424_UltraSoC_NT31P1

UltraSoC的除錯和即時監測功能目前已經擴展到能支援高達 6萬5,536個IP功能區塊和單元。
(來源:UltraSoC)

由於SoC 內的硬體功能區塊、韌體和軟體間的互動非常複雜,對於SoC設計工程師來說,即時監測工具不可或缺,設計方法的改變也使得全系統監測比以往更有必要。靈敏的軟體開發和特定編程作法,在本質上要求實際系統具有高粒度(high-granularity)的可見性。同樣的,系統軟硬體可能不是以傳統概念「被架構」,所以工程師需要對系統運作行為的清晰能見度。

本文同步刊登於電子工程專輯雜誌2019年4月號;編譯:Judith Cheng

(參考原文: UltraSoC Extends Monitoring to ‘See’ into Complex ML, AI Chips ,by Nitin Dahad)