募資順利 AI新秀Deep Vision準備推第二代晶片

2021-11-15
作者 Sally Ward-Foxton,EE Time歐洲特派記者

Deep Vision是在2018年由美國史丹佛大學的兩位博士所創立,如今已經募得總計5,400萬美元的資金。該公司目前有57名員工,預計到年底會增加到75名。ARA-1如今正量產出貨,ARA-2則預計於2022年開始出樣...

美國邊緣AI晶片新創公司Deep Vision在B輪募資籌得了3,500萬美元。該輪募資是由Tiger Global主導,其他投資者包括國際創投業者Exfinity Venture Partners,以及慧榮科技(Silicon Motion)、Western Digital等公司。

Deep Vision的第一代晶片於2020年開始出貨──該ARA-1晶片號稱是具備省電、低延遲特性的邊緣AI處理器,適合智慧零售、智慧城市和機器人等應用。而雖然Deep Vision的公司名稱透露其研發重點是卷積神經網路,事實上ARA-1也能夠加速自然語言的處理,並支援長短期記憶(long short-term memory,LSTMs)和遞迴神經網路(recurrent neural networks,RNNs)等複雜網路。具備支援LSTMs和RNNs加速額外功能的ARA-2晶片預計明年問世。

Deep Vision執行長Ravi Annavajjhala。(圖片來源:Deep Vision)

Deep Vision執行長Ravi Annavajjhala。(圖片來源:Deep Vision)

「當ARA-1開始在去年推出樣品時,我們想確保我們擁有很棒的PMF (product-market fit)與客戶;」Deep Vision執行長Ravi Annavajjhala對《EE Times》表示:「我們已經有一些客戶,包括一家已經大量出貨的FAANG客戶。我們的產品合格而且已經量產,我們現在要做的就是繼續向前邁進,將這個模式在不同的領域和客戶之間複製。」所謂的「FAANG」指的是以Facebook、Amazon、Apple、Netflix和Google等五家公司為代表的超大規模(hyper-scaler)業者。

Annavajjhala表示,該公司的頭號目標應用市場是智慧零售,而且在該領域已經有一個「非常大的客戶」,以及「數個其他業務」;不過他婉拒透露該零售客戶的身分,或是該客戶是否與和上述的FAANG客戶是同一家。

Deep Vision晶片的零售應用包括結帳行為分析(checkout analytics)和庫存管理,涵蓋貨架攝影機和數位看板。雖然貨架攝影機無需極低的延遲性,Annavajjhala表示,客戶的確需要數百萬張的影像,才能藉由複雜的AI模型追蹤產品。因此,對資料處理的需求相對很高。

「貨架攝影機不只可以偵測空貨架,也可以結合一些其他模型,通常會加上許多過濾器;」他指出:「除了運算本身是一個問題──我們不能將這個任務送到雲端,因為成本相當高──我們需要的網路頻寬和乙太網路供電交換器也都變得非常昂貴;」因此,「降低總持有成本才符合商家的最佳利益,要做到這一點的方法就是盡可能將更多推論任務在邊緣執行。」

其他應用還包括智慧城市(例如高解析度、高影格率的保全攝影機)、駕駛人監控系統、機器人、無人機以及工廠自動化。

ARA-1晶片執行ResNet-50模型的性能,為每秒100張影像或每瓦每秒40張影像。該晶片現在以USB模組、M.2模組以及U.2 PCIe模組(一卡2或4晶片)的形式出貨。該公司為對功耗敏感的邊緣應用提供800-MHz和600-MHz兩種版本的晶片。

Deep Vision的ARA-1晶片已經開始出貨,預計ARA-2明年問世。 (圖片來源:Deep Vision)

Deep Vision的ARA-1晶片已經開始出貨,預計ARA-2明年問世。 (圖片來源:Deep Vision)

Deep Vision的運算架構是專為減少資料在記憶體進出的次數所設計。「資料移動最小化需要從軟體、系統以及運算核心等各個不同層面下手,以確保被帶到晶片上的任何資料都能夠盡可能地靠近運算核心,並維持盡可能長時間停留;」Annavajjhala表示:「我們已經在硬體上抽象出所有這些,確保資料流動的模式能讓資料在運算單元以及不同記憶體層級間的移動最小化。」

他指出,在運算AI推論時,資料可以被多次重複使用;對影像卷積而言,一個影格(或卷積)和下一個影格之間大約有90%的資料是相同的。Deep Vision的軟體掃描模型時,會查看許多不同的資料移動組合,來為處理器安排最有效率的組合。而編譯器則會追蹤處理程序和記憶體子單元的功率消耗,以實現最佳化成果。Deep Vision的軟體流程支援TensorFlow、Kaffe、Pytorch、MXNet以及ONNX。

根據Annavajjhala的說法,將ARA-1推向市場的時間緊迫,因此有部分先進功能被排除了,那些功能基本上和LSTMs和RNNs的加速有關,但它們將會在相同的整體架構下被添加到ARA-2晶片中。ARA-2的製程技術也將會從28奈米轉為16奈米,這可以讓每瓦性能提升三倍,與和ARA-1相較則是五倍的性能提升(該公司表示,目前可以在ARA-1上運作的應用程式也將相容於ARA-2)。

Deep Vision是在2018年由美國史丹佛大學(Stanford University)的兩位博士Rehan Hameed和 Wajahat Qadeer所創立,如今已經募得總計5,400萬美元的資金。該公司目前有57名員工,預計到年底會增加到75名。ARA-1如今正量產出貨,ARA-2則預計於2022年開始出樣。

 

本文同步刊登於《電子工程專輯》雜誌2021年11月號

責編:Judith Cheng

(參考原文:AI Startup Deep Vision Raises Funds, Preps Next Chip,By Sally Ward-Foxton)

 

 

 

 

 

活動簡介

目前寬能隙(WBG)半導體的發展仍相當火熱,是由於經過近幾年市場證明,寬能隙半導體能確實提升各應用系統的能源轉換效率,尤其是應用系統走向高壓此一趨勢,更是需要寬能隙元件才能進一步提升能效,對實現節能環保,有相當大的助益。因此,各家業者也紛紛精進自身技術,並加大投資力道,提升寬能隙元件的產能,以因應市場所需。

本研討會將邀請寬能隙半導體元件關鍵供應商與供應鏈上下游廠商,一同探討寬能隙半導體最新技術與應用市場進展,以及業者佈局市場的策略。

贊助廠商

發表評論

訂閱EETT電子報