總部位於美國矽谷的資料中心人工智慧(AI)晶片設計和系統新秀SambaNova，最近在D輪募資中獲得6.76億美元的資金，讓這家在2020年底才解除隱身模式、員工100人的新創公司估值一舉躍升至50億美元以上。

SambaNova也是當前募資成績最佳的AI晶片業者之一，累計金額已超越11億美元。為此，《EE Times》採訪了SambaNova執行長Rodrigo Liang，與他面對面探討該公司的未來發展戰略和技術藍圖。

首先令人好奇的是，為何SambaNova與眾家瞄準資料中心AI應用領域的競爭對手，能吸引如此巨額資金投入？是因為開發這類產品本來就「燒錢」，才能與市場上的現有廠商相抗衡？還是這僅反映了投資人對市場商機的「狂熱」？

「眾所周知，晶片設計是資本極度密集的產業，不過對一家小型公司來說，10億美元現金確實是不小的數字；」Liang認為：「我認為那反映了人們對於市場商機的看法。」

隨著對AI專屬處理能力需求的提升，資料中心AI硬體和軟體系統市場也在迅速成長；然而Liang表示：「我認為整個世界正進入從前AI (pre-AI)到後AI (post-AI)的轉變，其影響力會很大，也許大不過網際網路，但你想想網際網路為全世界所有產業、以及每一個客戶帶來的巨大變化，我相信你將會看到類似的情形，就算不是更具顛覆性…」

SambaNova執行長Rodrigo Liang

Liang認為，所有企業都必須採納相關技術，才能在後AI時代生存；「這並不是某些人在某些特定類別應用案例中才需要，而所有人都會需要。我們已經來到了『不作為』就得付出龐大代價的時刻，當你的競爭對手都在將業務導入AI系統，這就成了不做點什麼就會落後的企業經營要務。」

如今擁抱網際網路的那些企業都一躍成為各行業的翹楚，可以說全球最大規模的幾家公司都是以網際網路技術為基礎的；Liang表示，AI技術將會是一樣。此外他強調：「SambaNova的客戶群不只是財富前二十強企業，而是所有人；任何需要AI的人或者企業，無論規模大小，我們都能讓他們啟用並營運最尖端的AI系統，並協助他們維護。」

SambaNova的誕生

SambaNova的起源可追溯到2000年，當時Liang與公司共同創辦人，美國史丹佛大學(Stanford)教授Kunle Olukotun，在Olukotun創辦的一家公司Afara Websystems相遇；Afara專注於為資料中心應用開發多核心處理器，後來被Sun Microsystems收購，接著又成為Oracle的一份子，Olukotun則回史丹佛任教。Liang與Afara團隊在Sun開發了許多代的SPARC系列處理器。

Olukotun回史丹佛後遇到了「麥克亞瑟天才獎」(Macarthur Genius Award)得主，電腦科學家Chris Ré ，二人一拍即合，開始思考如何以更好的方法執行大規模機器學習。

Liang表示，他們後來的結論是需要很多東西，像是能提供高程度抽象(abstraction)的軟體堆疊，「因為大規模機器學習太大了，人類大腦難以進行最佳化；」這時就需要一套硬體系統，有效率地執行資料流程(data flow)應用程式。而因為當時並沒有可用的資料流程處理器，再加上機器學習工作負載的本質就是演進非常快，會需要可重配置(reconfigurable)系統才能跟上其速度。

所以下一步就是要找一個能設計這種晶片的團隊──Liang在Oracle-Sun的團隊具備打造高性能處理器的經驗，正符合要求。因為時機、技術與團隊的正確結合，Liang、Olukotun 和Ré在2017年共同創立了SambaNova。

SambaNova在2020年12月發表資料中心及高性能運算(HPC)應用的系統級加速器DataScale，同時也解除隱身模式；DataScale以該公司自家Cardinal SN10可重配置資料流程處理單元晶片為基礎，其規模可執行像是自然語言處理(NLP)模型的大型網路。除了機架模式DataScale系統，SambaNova也經營被稱為「資料流程即服務」(Dataflow-as-a-service)的硬體月租業務。

SambaNova的使命是簡化大規模AI硬體部署。實踐AI的過程可能是漫長而艱難的，即使對大公司來說也是如此；這牽涉需要延攬越來越稀缺的資料科學家，以及釐清所需的技術基礎設施。接著就是收集資料，選擇或開發AI模型，同時跟上進展相當快速的模型最新研究成果。

「那些事情是大多數客戶不擅長的，因為他們的業務是在其他領域，」Liang表示：「他們只想找一種方法，盡可能以最高效率達到最先進水準。這就是SambaNova的成立宗旨，我們致力於提供客戶所需的轉型能力，讓他們不必自己打造一切而能取得價值。」

應用於資料中心AI加速的SambaNova DataScale機架規模系統。(圖片來源 SambaNova)

SambaNova的「賣點」是，該公司能承擔通常需要一個大型資料科學團隊才能執行的眾多任務，他們會負責維護軟硬體系統，以最高精度來訓練模型，確保所有工作盡可能高效率運作。而Liang補充，其策略也包括只負責流程中的一部分，「不是只能選擇讓我們全包。」

那SambaNova如何防止其他競爭對手效仿這種全流程方法？「並沒有很多業者能在一整個平台上解決問題，你會看到人們設計只支援特定應用推論任務的晶片，但是並沒有很多業者能以通用平台來因應高廣度。」

現有客戶與發展藍圖

SambaNova的策略包括以同一硬體為基礎，打造支援多個不同垂直市場的解決方案；那些垂直領域像是自然語言處理、電腦視覺、推薦系統(recommendation systems)和科研AI。在科研AI應用領域，SambaNova已宣布美國阿貢國家實驗室(Argonne National Laboratory)和勞倫斯利佛摩國家實驗室(Lawrence Livermore National Laboratory)都採用了該公司的系統；Liang亦透露，SambaNova的客戶還包括超大規模雲端服務供應商，以及各行各業的本地資料中心。

「回到我前面提到的網際網路比喻，有誰可能不是網際網路的客戶？」Liang重申該公司將每一個人都視為目標客戶的願景。

但是，就算具備可擴展性，真的有適用各種可能情境的單一解決方案嗎？不同模型之間的AI工作負載在本質上就不同，隨著更多產業採用AI，無疑各種工作負載將繼續朝差異化方向發展。

對此，Liang提及SambaNova硬體的可重配置特性，表示這意味著該公司能在所有垂直領域競爭，因為「我們的方案能在高性能微處理器的核心部分重新配置資料通路，以滿足模型所需。這如果得手動完成會非常困難，而SambaNova非常聰明的編譯器堆疊能讓我們具備完全自動化的能力，它會知道我們需要什麼，並與硬體緊密結合。這是一家從硬體到軟體堆疊一路創新的公司可提供的優勢…我們能做到大多數晶片公司沒有能力做的，因為他們無法掌控堆疊的較頂層。」

既然具備了完整的軟、硬體系統，SambaNova接下來的發展藍圖為何？Liang認為，該公司勢必要更上一層樓，因為與客戶的合作經驗顯示，他們越來越不想自己開發模型，但最終都想從資料中提取價值。

「我們了解完成所有這一切的整個工作流程以及管道，」他表示：「你會看到我們持續深耕這個領域，而且一定會擴展更多更多的垂直應用；我們將有更多的完整解決方案來因應特定類型垂直市場的需求。」

SambaNova的Cardinal SN10可重配置資料流程處理器。(圖片來源：SambaNova)

SambaNova會繼續努力讓自家技術堆疊跟上快速演進的AI模型，而這些模型的規模也在快速擴大。Liang表示：「我們需要掌握人們實際需要利用這些系統做什麼，也已經執行了一些這世界所有人都能用的最大模型；我們將繼續挑戰極限。」

競爭激烈的產業

SambaNova是資料中心AI晶片新秀之一，這個產業領域競爭者眾，募資能力也很強(像是Graphcore、Groq、Cerebras等公司)。與那些同業一樣，SambaNova也想從Nvidia和Intel等大廠手中分一杯羹。而雖然人們經常討論是哪一家公司或哪一種技術將「勝出」，Liang的看法是，AI終將普及化，因此將會有一個能容納具備所有類型廠商與競爭者之產業鏈的市場。

「就像是網際網路領域有眾多贏家，20年來該產業從前網際網路轉換到後網際網路時代，就有像是連網、儲存等等技術陸續發生，AI也是一樣；」他表示：「現在我們只關注存在於當前基礎設施中的一些非常具體的東西，人們嘗試去判斷誰會在特定的模型上勝利或失敗…但AI會成為一個普及化的產業，會擁有橫跨許多不同東西的細分領域，就像網際網路產業的發展之路，將有很多不同廠商參與這些細分市場的競爭。」

Liang對於SambaNova能在這個市場的某部分開拓一片天地信心十足──擁有龐大的市場商機，以及一個手上握有11億美元資金的經驗老道團隊，誰能不如此自信？

本文同步刊登於《電子工程專輯》雜誌2021年8月號；責編：Judith Cheng

(參考原文：SambaNova CEO: Pre- to Post-AI Transition Will Be ‘Bigger Than the Internet’，By Sally Ward-Foxton）

活動簡介

從無線連接、更快的處理和運算、網路安全機制、更複雜的虛擬實境(VR)到人工智慧(AI)等技術，都將在未來的每一個嵌入式系統中發揮更關鍵功能。「嵌入式系統設計研討會」將全面涵蓋在電子產業最受熱議的「智慧」、「互連」、「安全」與「運算」等系統之相關硬體和軟體設計。

會中將邀請來自嵌入式設計相關領域的研究人員、代表廠商以及專家，透過專題演講、產品展示與互動交流，從元件、模組到系統，從概念設計到開發工具，深入介紹嵌入式系統設計領域的最新趨勢、創新和關注重點，並深入分享關於嵌入式系統設計的經驗、成果以及遇到的實際挑戰及其解決方案。

贊助廠商

立即報名