NVIDIA CEO 黃仁勛發(fā)布面向各行各業(yè)的生成式 AI 平臺

黃仁勛在 COMPUTEX 主題演講上展示了多個新系統(tǒng)，軟件及服務，以充分利用這個時代最具變革性的技術 —— 生成式 AI 。其中，多數(shù)產(chǎn)品由 Grace Hopper 超級芯片提供支持

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在本次主題演講中發(fā)布了多個平臺。通過這些平臺，企業(yè)可以把握住這一歷史性的生成式 AI 浪潮，以革新廣告、制造、電信等行業(yè)。

在近兩個小時的演講中，他介紹了加速計算服務、軟件和系統(tǒng)，它們正在推動實現(xiàn)新業(yè)務模式和提高當前業(yè)務模式效率。

黃仁勛表示，“加速計算和 AI 標志著計算的革新”。

為了展示它的力量，他展示了一個文本提示，為他的主題演講生成一首主題曲，可以像任何卡拉 OK 曲調(diào)一樣演唱。

“我們現(xiàn)在正處于一個全新計算時代的轉折點，加速計算和 AI 已經(jīng)被世界上幾乎所有的計算和云公司所采用，” 他表示，如今有 40,000 家大公司和 15,000 家初創(chuàng)公司使用 NVIDIA 技術，僅去年一年，CUDA 軟件的下載量就達到 2,500 萬次。

重磅發(fā)布亮點回顧

• Grace Hopper支持用于運行生成式 AI 的大內(nèi)存超級計算機。
• 模塊化參考架構推動實現(xiàn) 100 多種加速服務器配置。
• WPP 和 NVIDIA 在 Omniverse 中創(chuàng)建數(shù)字廣告內(nèi)容引擎。
• 網(wǎng)絡技術加速基于以太網(wǎng)的 AI 云。
• NVIDIA ACE 游戲開發(fā)版通過生成式 AI 令游戲角色栩栩如生。
• 世界各地的電子制造商采用 NVIDIA AI。

新的企業(yè) AI 引擎

黃仁勛發(fā)布了能夠為企業(yè)提供超強 AI 性能的 DGX GH200 大內(nèi)存 AI 超級計算機。通過 NVIDIA NVLink，這臺超級計算機將多達 256 塊 NVIDIA GH200 Grace Hopper 超級芯片整合到一個數(shù)據(jù)中心大小的 GPU 中。

黃仁勛宣布，GH200 超級芯片現(xiàn)已全面投產(chǎn)，它將節(jié)能的 NVIDIA Grace CPU 與高性能的 NVIDIA H100 Tensor Core GPU 整合到一個超級芯片中。

DGX GH200 提供 1 exaflop 性能與 144 TB 共享內(nèi)存，比單個NVIDIA DGX A100 320GB系統(tǒng)高出近500倍。這讓開發(fā)者可以構建用于生成式AI聊天機器人的大型語言模型、用于推薦系統(tǒng)的復雜算法，以及用于欺詐檢測和數(shù)據(jù)分析的圖形神經(jīng)網(wǎng)絡。

谷歌云、Meta和微軟是首批有望接入DGX GH200的企業(yè)，它們將探索這臺超級計算機在生成式AI工作負載方面的能力。

NVIDIA DGX GH200 AI超級計算機為生成式AI工作負載提供1 exaflop性能

黃仁勛表示：“DGX GH200 AI超級計算機集成了NVIDIA最先進的加速計算和網(wǎng)絡技術來拓展AI的前沿領域?！?/p>

NVIDIA正在建造自己的大規(guī)模AI超級計算機NVIDIA Helios。這臺超級計算機將于今年上線，它將使用四個與NVIDIA Quantum-2 InfiniBand網(wǎng)絡相連的DGX GH200系統(tǒng)，可提供訓練大型AI模型所需要的數(shù)據(jù)吞吐量。

在本次大會上發(fā)布的數(shù)百個使用NVIDIA系統(tǒng)中，DGX GH200最為矚目。這些系統(tǒng)將共同為數(shù)百萬用戶帶來生成式AI和加速計算。

黃仁勛宣布，將有超過400種采用NVIDIA 最新版本Hopper，Grace，Ada Lovelace和BlueField架構的系統(tǒng)上市。這些系統(tǒng)將被用于解決AI，數(shù)據(jù)科學和高性能計算領域的復雜挑戰(zhàn)。

各種規(guī)模的加速

為了滿足各種規(guī)模數(shù)據(jù)中心的需求，黃仁勛發(fā)布了一個用于創(chuàng)建加速服務器的模塊化參考架構NVIDIA MGX。系統(tǒng)制造商將使用該架構快速、經(jīng)濟地構建100多種不同的服務器配置，滿足各種AI、HPC和NVIDIA Omniverse應用的需求。

憑借MGX，制造商能夠使用通用架構和模塊化組件構建CPU和加速服務器。MGX支持NVIDIA全部GPU、CPU、DPU和網(wǎng)絡適配器系列，以及各種風冷、液冷機箱的X86和Arm處理器。

眾多制造商宣布將使用MGX創(chuàng)造新一代加速計算機。

Grace Hopper推動5G/6G發(fā)展

黃仁勛表示，NVIDIA 正在助力塑造未來5G、 6G 無線和視頻通信。演講中展示了通過Grace Hopper 上運行的 AI ，將當今的 2D 視頻通話轉變?yōu)楦普娴?3D體驗 ，轉換后的臨場感令人驚嘆。

黃仁勛宣布， NVIDIA 正在與電信巨頭軟銀合作，在日本建立分布式數(shù)據(jù)中心網(wǎng)絡，為提供新型服務奠定基礎。它將在通用云平臺上提供 5G 服務和生成式AI應用程序。

這些數(shù)據(jù)中心將使用模塊化MGX系統(tǒng)中的NVIDIA GH200超級芯片和NVIDIA BlueField-3 DPU以及NVIDIA Spectrum以太網(wǎng)交換機提供5G協(xié)議所需的高精度計時。該平臺將通過提高頻譜效率來降低成本和能耗。

這些系統(tǒng)將幫助軟銀探索5G和6G在自動駕駛、AI工廠、增強和虛擬現(xiàn)實、計算機視覺以及數(shù)字孿生方面的應用，未來甚至可能被用于3D視頻會議、全息通信等。

加速云網(wǎng)絡

此外，黃仁勛發(fā)布了專門用于提高以太網(wǎng)AI云性能和效率的網(wǎng)絡平臺NVIDIA Spectrum-X。該平臺將Spectrum-4以太網(wǎng)交換機與BlueField-3 DPU和軟件相結合，相較于傳統(tǒng)的以太網(wǎng)結構，AI性能和電源效率提高了1.7倍。

NVIDIA Spectrum-X 可加速在傳統(tǒng)以太網(wǎng)網(wǎng)絡上可能會出現(xiàn)性能損失的 AI 工作流程

令游戲角色栩栩如生

生成式AI也影響著人們玩游戲的方式。

黃仁勛發(fā)布了NVIDIA Avatar Cloud Engine（ACE）游戲開發(fā)版。開發(fā)者可以使用這項代工服務構建和部署定制化的語音、對話和動畫AI模型。該引擎將賦予非玩家角色（NPC）對話技能，使他們能夠以進化出的逼真?zhèn)€性回答問題。

NVIDIA ACE游戲開發(fā)版包含NVIDIA Riva等AI基礎模型，可檢測并轉錄玩家的語音。NVIDIA NeMo可根據(jù)文本提示生成定制化的回答并通過NVIDIA Omniverse Audio2Face實現(xiàn)動畫化。

NVIDIA ACE 游戲開發(fā)版提供了一整套使令角色栩栩如生的生成式 AI工具

加速Windows上的生成式AI

黃仁勛介紹了NVIDIA和微軟如何在生成式AI時代一同推動Windows PC的創(chuàng)新。

使用全新的和經(jīng)過強化的工具、框架和驅動程序，PC開發(fā)者可以更加輕松地開發(fā)和部署AI。例如用于優(yōu)化和部署GPU加速AI模型的Microsoft Olive工具鏈，以及新的圖形驅動程序，將大幅提升配備NVIDIA GPU的Windows PC上的DirectML性能。

這項合作將加強1億臺配備RTX GPU的PC性能，并繼續(xù)擴大設備數(shù)量。這些GPU中的Tensor Core可大幅提升400多個AI加速Windows應用和游戲的性能。

推動全球最大行業(yè)實現(xiàn)數(shù)字化

生成式AI為價值7,000億美元的數(shù)字廣告行業(yè)帶來新的機遇。

例如，全球最大的營銷服務機構WPP正與NVIDIA一起在Omniverse Cloud上構建首個生成式AI內(nèi)容引擎。

黃仁勛在一段演示中展示了創(chuàng)作團隊將如何連接他們的3D設計工具（如Adobe Substance 3D）并在NVIDIA Omniverse中構建客戶產(chǎn)品的數(shù)字孿生。然后，他們可以憑借在來源可信的數(shù)據(jù)上訓練并使用NVIDIA Picasso構建的生成式AI工具所提供的內(nèi)容，快速制作出虛擬場景。

WPP客戶可以使用制作完畢的場景生成大量廣告、視頻和3D體驗，供全球市場和用戶在任何網(wǎng)絡設備上使用。

工廠鑄就AI的未來

據(jù)估計，價值46萬億美元的制造業(yè)有1,000萬家工廠，它們是工業(yè)數(shù)字化的重點領域。

黃仁勛表示：“全球最大的工業(yè)制造的都是實物。如果能夠先以數(shù)字方式制造這些產(chǎn)品，就可以節(jié)省數(shù)十億美元。”

此次主題演講展示了多家電子制造商如何利用NVIDIA技術打造數(shù)字化流程，實現(xiàn)全數(shù)字化智能工廠的愿景。

這些企業(yè)通過Omniverse和生成式AI 的API接口，以連接他們的設計和制造工具，從而構建工廠數(shù)字孿生。他們還使用NVIDIA Isaac Sim模擬和測試機器人，并使用視覺AI框架NVIDIA Metropolis實現(xiàn)光學檢測的自動化。

最新組件NVIDIA Metropolis for Factories可以創(chuàng)建定制化的質控系統(tǒng)，為制造商帶來競爭優(yōu)勢。該組件正在幫助企業(yè)開發(fā)先進的AI應用。

使用AI加速裝配線

例如，在全球生產(chǎn)筆記本電腦、智能手機等300種產(chǎn)品的和碩，正在使用Omniverse、Isaac Sim和Metropolis創(chuàng)建虛擬工廠。該公司能夠在虛擬工廠中的模擬環(huán)境測試各種流程，為其節(jié)省了時間和成本。

和碩還使用NVIDIA DeepStream軟件開發(fā)套件開發(fā)智能視頻應用，將吞吐量提高了10倍。

富士康工業(yè)互聯(lián)網(wǎng)是這家全球超大技術制造商的服務部門，該部門攜手NVIDIA Metropolis合作伙伴，一起實現(xiàn)其電路板質控檢查點重要環(huán)節(jié)的自動化。

黃仁勛在一段視頻中展示了廣達的子公司Techman Robot如何使用NVIDIA Isaac Sim優(yōu)化其生產(chǎn)線上的檢測。實際上，這是在使用模擬機器人，來訓練機器人制造出更好的機器人。

此外，黃仁勛還發(fā)布了一個新平臺，以支持下一代自主移動機器人 (AMR) 車隊。 Isaac AMR 可以幫助模擬、部署和管理自主移動機器人車隊。