每家抱持「智慧製造」信念的企業都將希望押在人工智慧(AI)上。這個勇敢的新世界要求對高成本的AI系統進行大量投資,同時還需要建立「學習」平台,並與雲端服務供應商保持聯繫,且這宏偉的計畫須從大資料收集開始,以便機器可以學習並找出以前未知的東西。

理論上是這樣。然而,在現實世界中,許多公司發現AI難以實施。有些人認為原因是他們缺乏AI經驗,或缺乏內部資料科學家來充分挖掘AI的潛能;有些人則抱怨他們無法對已安裝的AI系統建立概念驗證。無論如何,製造商開始意識到AI不是「只要建構起來,自然就有結果」那麼簡單。

讓我們來看瑞薩電子(Renesas Electronics)。

這家日本晶片公司在全球工廠自動化市場上居於領先地位。它為營運技術(OT)領域提出「即時連續AI」,這種方法與「統計AI(statistical AI)」形成鮮明對比,大資料公司通常會鼓吹「統計AI」,以促進資訊技術(IT)領域的自動化。

20181108NT31P1 圖1 用於IT的統計AI與用於OT的連續AI比較。(來源:瑞薩電子)

瑞薩電子執行副總裁暨工業方案事業部總經理Yoshikazu Yokota告訴《EE Times》,嵌入式AI(或稱e-AI)對於OT中的故障檢測和預測性維護至關重要。當任何特定系統或流程中出現異常時,嵌入式AI可以「就地和即時做出決策,」他並解釋,瑞薩電子3年前提出了「端點AI的想法,並已開始在自己的那珂(Naka)半導體工廠進行試驗。

Yokota說:「我們的計畫是在OT中實現即時推理,同時逐步增加端點的AI功能。」

20181108NT31P2 圖2 瑞薩電子執行副總裁Yoshikazu Yokota。

透過逐步將AI導入工廠車間,瑞薩電子希望協助掙扎中的客戶完成自身AI實施的概念驗證,並正確瞭解他們在AI上的投資回報。

何時將AI應用於OT

瑞薩電子工業方案事業部戰略和規劃部門資深總監Mitsuo Baba告訴我們,當特定問題(例如生產線上的問題)已經確定時,AI可以最好地應用於OT。

例如,一位經驗豐富的營運經理,他的經驗足以發現工廠中的某些異常現象。然而,不需要將這位經理派到生產車間去檢查製造過程的每個階段,Baba說:「我們可以使用AI來描繪,並確定在生產缺陷期間出現異常的時間和地點。」AI就像一個電子眼,可以持續監控生產線,以防止產品的小缺陷進入生產的下一階段。

在這種工廠自動化示例中,根據預先確定的問題,AI僅需要進行一次「培訓」。AI「推理」可以在端點設備(ednpoint device)上即時運作,無需返回雲端。Baba表示,30KB位元組的資料就足夠端點推理,而要同時進行學習和推理的統計AI通常需要在雲端處理大到300MB位元組的資料。

簡而言之,瑞薩電子正在宣導在微控制器(MCU)上完成AI推理的新概念。

瑞薩電子推出的「AI Unit解決方案」套件可以連接到現有的生產設備上,而不必用成本高昂的全新AI機器替換現有的生產線。

Baba表示,瑞薩電子並未打算挑戰像Nvidia這樣的AI晶片公司。「我們的目標是引領嵌入式AI的新市場領域,其中推理所需的資料非常小,甚至可以在現有的MCU/MPU上執行」,Baba說。

AI發展規劃

瞄準基於MCU的「嵌入式AI」是一個聰明的舉措。這一策略正好可以發揮瑞薩電子的優勢。瑞薩電子憑藉其MCU、SoC和微處理器,在製造基礎設施和家用電器的工廠中佔據著主導地位。

瑞薩電子還理解到,基於MCU/MPU的端點推理最終將需要更複雜的AI處理性能,促使客戶要求增強的嵌入式AI發展進程。

瑞薩電子最近發佈了稱為可動態重配置處理器(dynamically reconfigurable processor;DRP)的AI加速器,可與該公司的MCU協同工作。

20181108NT31P3 圖3 瑞薩電子透過DRP增強其嵌入式AI性能的發展藍圖。(來源:瑞薩電子)

瑞薩電子自行開發的DRP並不是一個全新的產品。它最初設計為可程式設計硬體,用於瑞薩電子的定制SoC,適用於專業視訊設備和數位相機等產品。當SoC必須運作不斷變化的應用程式時,DRP的靈活性就派上用場了,因為軟體修改會促使硬體重新配置DRP上的處理元素。Baba解釋:「設計師可以用C語言編寫軟體,然後相應地使用瑞薩電子的專用編譯器映射和硬體資源。」

他並指出,美國國防高等研究計劃署(DARPA)及至少一家FPGA公司(Xilinx)早已對DRP進行類似的研究。

隨著市場對AI的興趣迅速增長,瑞薩電子認為DRP是一個絕佳的AI加速器。更值得一提的是,同一個DRP可以透過時分機制在重新配置的硬體上切換軟體,從而動態地執行不同的AI推理。

20181108NT31P4 圖4 DRP內部示意圖。(來源:瑞薩電子)

瑞薩電子計畫將DRP作為一個核心整合進MCU。其DRP增強版的嵌入式AI發展路線圖涵蓋了廣泛的AI處理領域,從即時影像處理(於2018年10月開始)、即時認知(2020年),到端點增量學習(2022年)。

20181108NT31P5 圖5 DRP支援兩種動態重新配置功能。(來源:瑞薩電子)

嵌入式AI的概念可望在整個產業散播開來。今年初,在世界行動通訊大會(MWC)上,意法半導體(STMicroelectronics;ST)在一場演講中提到,機器學習將成為嵌入式世界中「分散式智慧」的關鍵。ST認為,遲早會有一天,一個微型MCU網路即夠智慧,可以檢測工廠車間的機器磨損或發現建築物內的異常,而不必將感測資料封包發給資料中心。

當時,ST展示了三種AI解決方案:一種名為STM32 CubeMX.AI的神經網路轉換器和程式碼生成器、ST自己的深度學習SoC(代號為Orlando V1),以及一種神經網路硬體加速器(目前正在使用FPGA開發中),最終會整合到STM32 MCU中。

我們已經充分意識到競爭格局,Baba自信地說。瑞薩電子已經推出了嵌入式AI產品,「相信我們至少有1年半的領先優勢。」

值得一提的是,瑞薩電子不僅僅提供嵌入式AI硬體。在故障檢測和預測性維護方面,瑞薩電子提還供了工具,包括嵌入式AI翻譯器和嵌入式AI 檢查器,可以將基於開放原始碼框架(如Caffe和Tensor Flow)的預訓練神經網路模型進行轉換,以便在瑞薩電子MCU和加速器上執行推理。

瑞薩電子稱,它可以調整神經網路模型,讓學習「可在短短1天內完成,而且AI處理的順序,從感測器資料收集到資料處理、分析,以及評估/判斷,都可以即時執行。」

端點與邊緣

「將AI推向邊緣」的概念越來越受歡迎。Yole Développement半導體和軟體部技術和市場分析師Yohann Tschudi最近在一份報告中探討了AI系統的半導體內容應該放在雲端、系統裡,還是放在設備端。

他寫道:

雖然可以使用GPU來運算一個巨大網路中神經元的權重,但還是有必要創建加速器(通常稱為神經引擎),以便可以在可攜式設備上進行這類數百萬次的運算。

在這裡,Tschudi所指的可攜式設備中的AI,通常被定義為「邊緣設備」。但是AI在「端點設備」上呢?端點與邊緣有何不同?

Baba解釋,像智慧型手機這樣的「邊緣設備」是直接連接到外部網路上的,而「端點設備」通常是在封閉的內部網路中。如果說邊緣設備屬於IT世界,那麼端點設備就是專為深度嵌入式OT而設計的。OT世界的嵌入式AI有如下要求:

˙它必須能夠即時控制系統

˙它具有安全性和堅固性

˙它必需具有極低的功耗

嵌入式AI在連續監控等任務場景中特別有用,因此低功耗是必須的。更重要的是,瑞薩電子希望看到嵌入式AI進入非電氣系統。 Baba說:「想像一下水龍頭,如果嵌入式AI安置在水龍頭內部,它可以根據不同的用途自動控制水流、流量和溫度。」

嵌入式AI是否與傳統的機器視覺不同?

如果生產線上的嵌入式AI只是對缺陷/無缺陷進行簡單的分類,那麼它與傳統的機器視覺一直在做的事情有什麼不同?機器視覺可以提供基於影像的自動檢查和分析功能,可用於工業應用中的程序控制、機器人引導和其他檢查。

Baba表示,不完全一樣。嵌入式AI可以基於融合的多模態感測資料提供智慧分析。以馬達為例,在馬達完全損壞之前,它會顯示出一些早期跡象。雖然機器視覺可以檢測到這種跡象,但人類聽不見的高頻聲音通常可以提供更好的線索。比如一顆螺釘鬆動了,馬達就會產生振動聲,儘管振動可能有很大差異,但加速度感測器可以感知到這一點。

要真正有效,AI必須理清並學習所擷取的感測資料的細微差別,而端點的推理引擎會即時診斷正在發生的情況,並採取適當的行動。

GE採用瑞薩電子AI Unit解決方案

據說,每家向智慧工廠推銷AI解決方案的晶片公司都在進行自己的概念驗證。瑞薩電子也在其那珂晶圓廠開展了為期兩年的AI實驗專案。根據該計畫,瑞薩電子的工程師將AI裝置連接到工廠車間的半導體製造設備上,它可以20倍的速度收集資料,並直接在端點運作AI分析,無需連接到廣域網路和傳送到雲端。

瑞薩電子聲稱,利用在已經使用多年的故障檢測和分類系統中添加嵌入式AI方案,它將異常檢測的精準度提高了六倍。

在聽說瑞薩電子那珂工廠的案例分析後,GE醫療保健日本分公司的日野(Hino)工廠採用了瑞薩電子的AI Uint方案以測試其效果。

20181108NT31P6 圖6 GE醫療保健日本分公司正在測試瑞薩電子的AI Unit解決方案。(來源:瑞薩電子)

為故障檢測和預測性維護而開發的系統,作為附加AI單元安裝在現有工廠設備或機器上後,GE報告稱,在所測試的設備上,整體產品缺陷減少了65%。

GE醫療保健日本分公司日野工廠經理Kozaburo Fujimoto在一份聲明中表示:「在這個工廠生產的許多醫療產品都是價格昂貴的設備,因此透過降低不合格產品率來提高產量是一個不斷改進的過程。」一直以來,缺陷和問題都是「透過車間工人的經驗和直覺來檢測」,他並補充。

(參考原文: Renesas to Pitch Baby-step AI for Factories ,by Junko Yoshida)