結合軟/硬體與服務 矽谷IC新創搶攻AI普及化商機

作者 : Sally Ward-Foxton,EE Times歐洲特派記者

SambaNova是當前募資成績最佳的AI晶片業者之一,累計金額已超越11億美元。為此,《EE Times》採訪了SambaNova執行長Rodrigo Liang,與他面對面探討該公司的未來發展戰略和技術藍圖。

總部位於美國矽谷的資料中心人工智慧(AI)晶片設計和系統新秀SambaNova,最近在D輪募資中獲得6.76億美元的資金,讓這家在2020年底才解除隱身模式、員工100人的新創公司估值一舉躍升至50億美元以上。

SambaNova也是當前募資成績最佳的AI晶片業者之一,累計金額已超越11億美元。為此,《EE Times》採訪了SambaNova執行長Rodrigo Liang,與他面對面探討該公司的未來發展戰略和技術藍圖。

首先令人好奇的是,為何SambaNova與眾家瞄準資料中心AI應用領域的競爭對手,能吸引如此巨額資金投入?是因為開發這類產品本來就「燒錢」,才能與市場上的現有廠商相抗衡?還是這僅反映了投資人對市場商機的「狂熱」?

「眾所周知,晶片設計是資本極度密集的產業,不過對一家小型公司來說,10億美元現金確實是不小的數字;」Liang認為:「我認為那反映了人們對於市場商機的看法。」

隨著對AI專屬處理能力需求的提升,資料中心AI硬體和軟體系統市場也在迅速成長;然而Liang表示:「我認為整個世界正進入從前AI (pre-AI)到後AI (post-AI)的轉變,其影響力會很大,也許大不過網際網路,但你想想網際網路為全世界所有產業、以及每一個客戶帶來的巨大變化,我相信你將會看到類似的情形,就算不是更具顛覆性…」

SambaNova執行長Rodrigo Liang

SambaNova執行長Rodrigo Liang

Liang認為,所有企業都必須採納相關技術,才能在後AI時代生存;「這並不是某些人在某些特定類別應用案例中才需要,而所有人都會需要。我們已經來到了『不作為』就得付出龐大代價的時刻,當你的競爭對手都在將業務導入AI系統,這就成了不做點什麼就會落後的企業經營要務。」

如今擁抱網際網路的那些企業都一躍成為各行業的翹楚,可以說全球最大規模的幾家公司都是以網際網路技術為基礎的;Liang表示,AI技術將會是一樣。此外他強調:「SambaNova的客戶群不只是財富前二十強企業,而是所有人;任何需要AI的人或者企業,無論規模大小,我們都能讓他們啟用並營運最尖端的AI系統,並協助他們維護。」

SambaNova的誕生

SambaNova的起源可追溯到2000年,當時Liang與公司共同創辦人,美國史丹佛大學(Stanford)教授Kunle Olukotun,在Olukotun創辦的一家公司Afara Websystems相遇;Afara專注於為資料中心應用開發多核心處理器,後來被Sun Microsystems收購,接著又成為Oracle的一份子,Olukotun則回史丹佛任教。Liang與Afara團隊在Sun開發了許多代的SPARC系列處理器。

Olukotun回史丹佛後遇到了「麥克亞瑟天才獎」(Macarthur Genius Award)得主,電腦科學家Chris Ré ,二人一拍即合,開始思考如何以更好的方法執行大規模機器學習。

Liang表示,他們後來的結論是需要很多東西,像是能提供高程度抽象(abstraction)的軟體堆疊,「因為大規模機器學習太大了,人類大腦難以進行最佳化;」這時就需要一套硬體系統,有效率地執行資料流程(data flow)應用程式。而因為當時並沒有可用的資料流程處理器,再加上機器學習工作負載的本質就是演進非常快,會需要可重配置(reconfigurable)系統才能跟上其速度。

所以下一步就是要找一個能設計這種晶片的團隊──Liang在Oracle-Sun的團隊具備打造高性能處理器的經驗,正符合要求。因為時機、技術與團隊的正確結合,Liang、Olukotun 和Ré在2017年共同創立了SambaNova。

SambaNova在2020年12月發表資料中心及高性能運算(HPC)應用的系統級加速器DataScale,同時也解除隱身模式;DataScale以該公司自家Cardinal SN10可重配置資料流程處理單元晶片為基礎,其規模可執行像是自然語言處理(NLP)模型的大型網路。除了機架模式DataScale系統,SambaNova也經營被稱為「資料流程即服務」(Dataflow-as-a-service)的硬體月租業務。

SambaNova的使命是簡化大規模AI硬體部署。實踐AI的過程可能是漫長而艱難的,即使對大公司來說也是如此;這牽涉需要延攬越來越稀缺的資料科學家,以及釐清所需的技術基礎設施。接著就是收集資料,選擇或開發AI模型,同時跟上進展相當快速的模型最新研究成果。

「那些事情是大多數客戶不擅長的,因為他們的業務是在其他領域,」Liang表示:「他們只想找一種方法,盡可能以最高效率達到最先進水準。這就是SambaNova的成立宗旨,我們致力於提供客戶所需的轉型能力,讓他們不必自己打造一切而能取得價值。」

應用於資料中心AI加速的SambaNova DataScale機架規模系統。(圖片來源 SambaNova)

應用於資料中心AI加速的SambaNova DataScale機架規模系統。(圖片來源 SambaNova)

SambaNova的「賣點」是,該公司能承擔通常需要一個大型資料科學團隊才能執行的眾多任務,他們會負責維護軟硬體系統,以最高精度來訓練模型,確保所有工作盡可能高效率運作。而Liang補充,其策略也包括只負責流程中的一部分,「不是只能選擇讓我們全包。」

那SambaNova如何防止其他競爭對手效仿這種全流程方法?「並沒有很多業者能在一整個平台上解決問題,你會看到人們設計只支援特定應用推論任務的晶片,但是並沒有很多業者能以通用平台來因應高廣度。」

現有客戶與發展藍圖

SambaNova的策略包括以同一硬體為基礎,打造支援多個不同垂直市場的解決方案;那些垂直領域像是自然語言處理、電腦視覺、推薦系統(recommendation systems)和科研AI。在科研AI應用領域,SambaNova已宣布美國阿貢國家實驗室(Argonne National Laboratory)和勞倫斯利佛摩國家實驗室(Lawrence Livermore National Laboratory)都採用了該公司的系統;Liang亦透露,SambaNova的客戶還包括超大規模雲端服務供應商,以及各行各業的本地資料中心。

「回到我前面提到的網際網路比喻,有誰可能不是網際網路的客戶?」Liang重申該公司將每一個人都視為目標客戶的願景。

但是,就算具備可擴展性,真的有適用各種可能情境的單一解決方案嗎?不同模型之間的AI工作負載在本質上就不同,隨著更多產業採用AI,無疑各種工作負載將繼續朝差異化方向發展。

對此,Liang提及SambaNova硬體的可重配置特性,表示這意味著該公司能在所有垂直領域競爭,因為「我們的方案能在高性能微處理器的核心部分重新配置資料通路,以滿足模型所需。這如果得手動完成會非常困難,而SambaNova非常聰明的編譯器堆疊能讓我們具備完全自動化的能力,它會知道我們需要什麼,並與硬體緊密結合。這是一家從硬體到軟體堆疊一路創新的公司可提供的優勢…我們能做到大多數晶片公司沒有能力做的,因為他們無法掌控堆疊的較頂層。」

既然具備了完整的軟、硬體系統,SambaNova接下來的發展藍圖為何?Liang認為,該公司勢必要更上一層樓,因為與客戶的合作經驗顯示,他們越來越不想自己開發模型,但最終都想從資料中提取價值。

「我們了解完成所有這一切的整個工作流程以及管道,」他表示:「你會看到我們持續深耕這個領域,而且一定會擴展更多更多的垂直應用;我們將有更多的完整解決方案來因應特定類型垂直市場的需求。」

SambaNova的Cardinal SN10可重配置資料流程處理器。(圖片來源:SambaNova)

SambaNova的Cardinal SN10可重配置資料流程處理器。(圖片來源:SambaNova)

SambaNova會繼續努力讓自家技術堆疊跟上快速演進的AI模型,而這些模型的規模也在快速擴大。Liang表示:「我們需要掌握人們實際需要利用這些系統做什麼,也已經執行了一些這世界所有人都能用的最大模型;我們將繼續挑戰極限。」

競爭激烈的產業

SambaNova是資料中心AI晶片新秀之一,這個產業領域競爭者眾,募資能力也很強(像是Graphcore、Groq、Cerebras等公司)。與那些同業一樣,SambaNova也想從Nvidia和Intel等大廠手中分一杯羹。而雖然人們經常討論是哪一家公司或哪一種技術將「勝出」,Liang的看法是,AI終將普及化,因此將會有一個能容納具備所有類型廠商與競爭者之產業鏈的市場。

「就像是網際網路領域有眾多贏家,20年來該產業從前網際網路轉換到後網際網路時代,就有像是連網、儲存等等技術陸續發生,AI也是一樣;」他表示:「現在我們只關注存在於當前基礎設施中的一些非常具體的東西,人們嘗試去判斷誰會在特定的模型上勝利或失敗…但AI會成為一個普及化的產業,會擁有橫跨許多不同東西的細分領域,就像網際網路產業的發展之路,將有很多不同廠商參與這些細分市場的競爭。」

Liang對於SambaNova能在這個市場的某部分開拓一片天地信心十足──擁有龐大的市場商機,以及一個手上握有11億美元資金的經驗老道團隊,誰能不如此自信?

本文同步刊登於《電子工程專輯》雜誌2021年8月號;責編:Judith Cheng

(參考原文:SambaNova CEO: Pre- to Post-AI Transition Will Be ‘Bigger Than the Internet’,By Sally Ward-Foxton)

 

 

 

 

 

 

加入LINE@,最新消息一手掌握!

發表評論