Nvidia執行長:利用平台駕馭生成式AI

2023-05-30
作者 Nvidia

在COMPUTEX的主題演講中,Nvidia發表多項新系統、軟體及服務,其中許多均搭配Grace Hoppe超級晶片,以駕馭這個時代帶來最大改變的技術…

Nvidia創辦人暨執行長黃仁勳在疫情後的首場直播主題演講,為2023年台北國際電腦展(Computex 2023)揭開序幕。他在會中宣佈,企業可望利用其平台駕馭生成式人工智慧(AI)近來掀起的巨大浪潮,改變從廣告、製造到電信等各產業。 在Computex 2023的首場主題演講,黃仁勳宣佈Nvidia的多項最近進展,包括Grace Hopper搭配大型記憶體的超級電腦,以處理生成式AI作業;模組化參考架構誕生百餘款加速運算伺服器配置;WPP與Nvidia在Omniverse平台開發數位廣告內容引擎;SoftBank和Nvidia在日本建設5G與生成式AI資料中心;網路技術加速運作乙太網路架構AI雲端環境;Nvidia ACE for Games使用生成式AI為人物角色賦予生命等。 黃仁勳表示:「我們正處於一個全新運算時代的轉捩點。加速運算和AI已經被世界上幾乎所有的運算和雲端公司接受。」加速運算服務、軟體與系統並催生新的商業模式,讓現有模式更具效率。為了展現運算和AI的強大能力,他還利用巨大8K螢幕,展示一個由文字提示生成像卡拉OK般唱出來的歌曲。 用於Enterprise AI的全新引擎 Nvidia推出具有龐大記憶體的AI超級電腦DGX GH200,供需要極致AI效能表現的企業使用。DGX GH200使用Nvidia NVLink網路技術,將256個Grace Hopper超級晶片連接成一個資料中心大小的GPU。GH200超級晶片現已全面投產。 DGX GH200將高能效的Nvidia Grace CPU與高效能Nvidia H100 Tensor核心GPU整合在一個模組內,使其運算效能達到1exaflop,擁有144TB的共享記憶體,表現比具有Nvidia DGX A100 320GB的系統高出近500倍。 開發人員可以用它來開發用於生成式AI聊天機器人的大型語言模型、用於推薦系統的複雜演算法,以及用於偵測詐欺及資料分析的繪圖神經網路。Google Cloud、Meta與微軟已率先使用DGX GH200探索處理生成式AI工作負載的能力。 Nvidia DGX GH200AI超級電腦以1-exaflop的運算效能處理生成式AI的工作量。 Nvidia並打造自家大型AI超級電腦Nvidia Helios,預計將於今年上線。它將使用Nvidia Quantum-2 InfiniBand網路技術來連結四套DGX GH200系統,提供最高每秒400GB的頻寬,以強化訓練大型AI模型所需的資料處理能力。 無論規模大小均加速前行 因應各種規模大小的資料中心需求,Nvidia推出打造加速伺服器的模組化參考架構Nvidia MGX,讓系統製造商能以符合成本效益的方式,迅速開發百種以上的伺服器配置,以配合多種AI、高效能運算及Nvidia Omniverse的需求。 MGX讓製造商使用通用架構及模組化零組件來建構CPU架構和加速運算伺服器。它在各式氣冷式及液冷式機箱中,支援Nvidia的全線GPU、CPU、資料處理單元(DPU)及網路卡,以及x86和Arm架構處理器。 雲達科技與美超微將率先在八月推出採用MGX設計的機型。美超微ARS-221GL-NR系統將採用Grace CPU,而雲達科技S74G-2U系統則將使用Grace Hopper超級晶片。永擎電子、華碩、技嘉與和碩聯合科技也將使用MGX來打造下一代加速運算電腦。 5G/6G呼喚Grace Hopper 黃仁勳在主題演講中介紹其Grace Hopper如何重塑5G和6G網路以及視訊溝通,現場並展示在Grace Hopper上運行的AI,可望讓現今的2D視訊通話更像擬真的3D體驗。 Nvidia與電信業者SoftBank共同在日本建造分散式資料中心網路,將在通用雲端平台上提供5G服務及生成式AI應用程式。這些資料中心將在模組化MGX系統中使用Nvidia GH超級晶片與Nvidia BlueField-3 DPU,再加上Nvidia Spectrum乙太網路交換器,提供5G協議要求的高精度計時。 這個平台能夠提高頻譜效率及降低能源消耗量,以達到節約成本的目標,協助SoftBank探索在自動駕駛、AI工廠、AR/VR、電腦視覺與數位雙生等應用。 加速推動雲端環境 Nvidia推出專為提高乙太網路架構AI雲端環境的效能及效率所設計的網路平台Nvidia Spectrum-X。它集合Spectrum-4乙太網路交換器、BlueField-3 DPU與軟體於一身,將AI運算效能及電源使用效率提高1.7倍。 包括Dell、聯想及美超微在內的系統建造商現已有在產品中採用Nvidia Spectrum-X、Spectrum-4交換器及BlueField-3 DPU。

Nvidia Spectrum-X加速在傳統乙太網路會遇到性能損失的AI工作流程。

創作出活靈活現的遊戲人物角色 生成式AI也對如何玩遊戲這件事造成影響。開發人員可以利用Nvidia Avatar Cloud Engine (ACE) for Games,建造及部署語音、對話和動畫AI模型,讓非玩家角色擁有對話技能,以便能以真人般的個性回答問題,以及隨劇情發展。 Nvidia ACE for Games包括用於偵測及將玩家口說內容轉成文字的Nvidia Riva等AI基礎模型。文字提示Nvidia NeMo產生客製化回應內容,並且由Nvidia Omniverse Audio2Face製作成動畫。

Nvidia ACE for Games提供工具鏈,透過生成式AI創作出靈活的人物角色。

Windows上加速生成式AI發展 Nvidia並與微軟合作推動Windows PC在生成式AI時代的創新。全新及更強大的工具、框架和驅動程式,讓PC開發商更輕鬆發展及部署AI。像是用於最佳化和部署GPU加速AI模型,加上全新顯示卡驅動程式的Microsoft Olive工具鏈,將透過Nvidia GPU提高DirectML在Windows PC上的執行表現。 這項合作將強化與擴大一億台安裝有RTX GPU的電腦,這些電腦上的Tensor核心能夠提高400多款AI加速的Windows應用程式及遊戲的執行效能。 規模最大的產業數位化 生成式AI也將為市值七千億美元的數位廣告業開創出新的商機。全球最大的行銷服務公司WPP與Nvidia合作,在Omniverse Cloud平台上建造首個生成式AI內容引擎。 黃仁勳表示:「運算模式已經改變,今天的廣告是檢索來的,但未來當你接觸資訊時,其中很多將是生成的。」 他並透過展示說明創意團隊如何在Nvidia Omniverse連結Adobe Substance 3D設計工具,協助客戶的產品建立數位雙生模型,並以來源資料訓練生成式AI工具,加上透過Nvidia Picasso建立的內容,讓創意團隊快速產生虛擬場景。 工廠打造AI的未來 市值46兆的製造業預估擁有千萬座工廠,正是進行工業數位化的絕佳領域。黃仁勳表示:「世界上規模最龐大的產業生產實體的東西。先用數位化技術來建造它們,可以省下不少寶貴時間與金錢。」 多家電子製造商均使用了Omniverse及生成式AI API連結設計及製造工具,以建造工廠的數位雙生模型。他們還使用Nvidia Isaac Sim模擬及測試機器人,以及使用視覺AI框架Nvidia Metropolis進行自動光學檢測作業。 生成式AI讓工業數位化更上一層樓。和碩使用Omniverse、Isaac Sim和Metropolis建立虛擬工廠,使其可先在模擬環境裡試行製程,大幅節省時間與成本。富士康工業互聯網則與Nvidia Metropolis合作夥伴攜手將其電路板品管檢查點的重要環節進行自動化。 達明機器人則利用Nvidia Isaac Sim,將電子代工大廠廣達的生產線檢查作業調整至最佳狀態,其本質在於使用模擬機器人來訓練機器人如何製造出更好的機器人。此外,Nvidia並打造下一代自主移動機器人(AMR)的全新平台。Isaac AMR平台用於模擬、部署與管理自主移動機器人。
活動簡介

人工智慧(AI)無所不在。這一波AI浪潮正重塑並徹底改變科技產業甚至整個世界的未來。如何有效利用AI協助設計與開發?如何透過AI從設計、製造到生產創造增強的體驗?如何以AI作為轉型與變革的力量?打造綠色永續未來?AI面對的風險和影響又是什麼?

AI⁺ 技術論壇聚焦人工智慧/機器學習(AI/ML)技術,涵蓋從雲端到邊緣、從硬體到軟體、從演算法到架構的AI/ML技術相關基礎設施之設計、應用與部署,協助您全面掌握AI最新技術趨勢與創新,接軌AI生態系佈局,讓機器學習更快速、更經濟、更聰明也更有效率。

贊助廠商

發表評論

訂閱EETT電子報