從 AI訓(xùn)練到部署，從半導(dǎo)體到軟件庫(kù)，從系統(tǒng)到云服務(wù)，黃仁勛闡述了全新一代的諸多技術(shù)突破將如何實(shí)現(xiàn)觸手可及
ChatGPT僅是一個(gè)起點(diǎn)。 正如NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛所說(shuō)，計(jì)算正在以“光速”發(fā)展。黃仁勛于今日宣布與谷歌、微軟、Oracle等一眾領(lǐng)軍企業(yè)開(kāi)展廣泛的合作，為各行各業(yè)帶來(lái)新的AI、模擬和協(xié)作能力。 黃仁勛在NVIDIA GTC大會(huì)主題演講中表示：“如果把加速計(jì)算比作曲速引擎，那么AI就是動(dòng)力來(lái)源。生成式 AI 的非凡能力，使得公司產(chǎn)生了緊迫感，他們需要重新構(gòu)思產(chǎn)品和商業(yè)模式。” 作為這場(chǎng)為期四天活動(dòng)的主題演講，黃仁勛在長(zhǎng)達(dá)78分鐘的演講中概述了NVIDIA及其合作伙伴如何提供訓(xùn)練和部署尖端AI服務(wù)所需的各種技術(shù)。他發(fā)布了全新的半導(dǎo)體和軟件庫(kù)以推動(dòng)行業(yè)新突破，以及一套完整的系統(tǒng)和服務(wù)，幫助各類初創(chuàng)公司及企業(yè)將這些創(chuàng)新在全球發(fā)揮作用。 黃仁勛在演講中用生動(dòng)的例子說(shuō)明了該生態(tài)系統(tǒng)的作用。他宣布NVIDIA和微軟將把數(shù)億Microsoft 365和Azure用戶連接到一個(gè)用于構(gòu)建和操作超現(xiàn)實(shí)虛擬世界的平臺(tái)，并介紹了亞馬遜如何使用復(fù)雜的模擬能力訓(xùn)練新的自主倉(cāng)庫(kù)機(jī)器人。他還談到ChatGPT等最近大火的新一代生成式AI服務(wù)的興起。 在強(qiáng)調(diào)NVIDIA創(chuàng)新成果的基礎(chǔ)作用時(shí)，黃仁勛詳細(xì)介紹了NVIDIA在計(jì)算光刻技術(shù)領(lǐng)域所取得的突破，以及與ASML、TSMC和Synopsis的合作，這些將為制造高效、強(qiáng)大的新一代2納米半導(dǎo)體奠定基礎(chǔ)。 黃仁勛表示，加速計(jì)算和AI的出現(xiàn)恰逢其時(shí)。摩爾定律正在放緩，各個(gè)行業(yè)正在應(yīng)對(duì)可持續(xù)發(fā)展，生成式AI以及數(shù)字化等強(qiáng)大的動(dòng)態(tài)挑戰(zhàn)。“各個(gè)行業(yè)的企業(yè)正在競(jìng)相進(jìn)行數(shù)字化轉(zhuǎn)型，希望成為軟件驅(qū)動(dòng)的技術(shù)公司，成為行業(yè)顛覆者而不是被顛覆者。” 加速計(jì)算可助力企業(yè)應(yīng)對(duì)這些挑戰(zhàn)。黃仁勛表示：“加速是重獲優(yōu)勢(shì)、實(shí)現(xiàn)可持續(xù)發(fā)展，以及達(dá)到凈零排放的最佳途徑。” GTC：行業(yè)領(lǐng)先的AI大會(huì) 進(jìn)入到第14個(gè)年頭的GTC已成為全球最重要的AI大會(huì)之一。本次大會(huì)有超過(guò)650場(chǎng)會(huì)議，演講嘉賓包括來(lái)自DeepMind、Adobe、Netflix、蘇黎世聯(lián)邦理工學(xué)院等企業(yè)和機(jī)構(gòu)的行業(yè)領(lǐng)導(dǎo)者，此外，本屆大會(huì)還有一場(chǎng)黃仁勛和OpenAI聯(lián)合創(chuàng)始人Ilya Sutskever的爐邊談話，ChatGPT正是OpenAI的產(chǎn)品。 超過(guò)25萬(wàn)名注冊(cè)用戶將深入?yún)⑴cGTC各個(gè)主題的會(huì)議，其中涵蓋如何修復(fù)2000年前失傳的羅馬馬賽克、建造未來(lái)工廠、用新一代大型望遠(yuǎn)鏡探索宇宙、通過(guò)重新排列分子加速藥物研發(fā)、以及70多場(chǎng)關(guān)于生成式AI的講座等。 AI的 iPhone時(shí)刻 NVIDIA技術(shù)是AI的基礎(chǔ)，黃仁勛講述了NVIDIA如何在生成式AI變革初期就已參與進(jìn)來(lái)。早在2016年，他就向OpenAI親手交付了第一臺(tái)NVIDIA DGX AI超級(jí)計(jì)算機(jī)——支持 ChatGPT 的大型語(yǔ)言模型突破背后的引擎。 去年年底推出的ChatGPT幾乎在一夜之間爆火，吸引了超過(guò)1億用戶，成為有史以來(lái)增長(zhǎng)最快的應(yīng)用。黃仁勛認(rèn)為 “我們正處于AI的 iPhone時(shí)刻 ”。 黃仁勛表示，最初作為AI研究?jī)x器使用的NVIDIA DGX超級(jí)計(jì)算機(jī)現(xiàn)已在世界各地的企業(yè)中全天候運(yùn)行，用于完善數(shù)據(jù)和處理AI。《財(cái)富》100強(qiáng)企業(yè)中有一半都安裝了DGX AI超級(jí)計(jì)算機(jī)。 “DGX超級(jí)計(jì)算機(jī)是現(xiàn)代AI工廠”。 用于數(shù)據(jù)中心的NVIDIA H100、Grace Hopper和Grace 黃仁勛表示，類似ChatGPT大型語(yǔ)言模型（LLM）的部署是一個(gè)重要的全新推理工作負(fù)載。為了支持像ChatGPT這樣的大型語(yǔ)言模型推理，黃仁勛發(fā)布了一款新的GPU——帶有雙GPU NVLink的H100 NVL。 基于NVIDIA Hopper架構(gòu)的H100配有一個(gè)Transformer引擎，旨在處理驅(qū)動(dòng)ChatGPT的類似GPT模型。與用于GPT-3處理的HGX A100相比，配備四對(duì)H100與雙GPU NVLink的標(biāo)準(zhǔn)服務(wù)器的速度最高可達(dá)10倍。 黃仁勛表示：“H100可以將大型語(yǔ)言模型的處理成本降低一個(gè)數(shù)量級(jí)。” 在過(guò)去十年中，云計(jì)算每年增長(zhǎng)20%并已發(fā)展成為一個(gè)萬(wàn)億美元的產(chǎn)業(yè)。NVIDIA為這個(gè)AI和云優(yōu)先的世界設(shè)計(jì)了Grace CPU，其中AI工作負(fù)載由GPU加速。Grace正在進(jìn)行樣品調(diào)測(cè)。 通過(guò)900GB/s高速芯片對(duì)芯片的接口，NVIDIA Grace Hopper超級(jí)芯片可連接Grace CPU和Hopper GPU。黃仁勛解釋說(shuō)，“ Grace Hopper是處理超大型數(shù)據(jù)集的理想選擇，比如用于推薦系統(tǒng)的AI數(shù)據(jù)庫(kù)和大型語(yǔ)言模型。” “客戶希望構(gòu)建規(guī)模大幾個(gè)數(shù)量級(jí)的AI數(shù)據(jù)庫(kù)，那么Grace Hopper是最理想的引擎。” DGX是構(gòu)建AI基礎(chǔ)設(shè)施的藍(lán)圖 最新版本的DGX搭載8個(gè)NVIDIA H100 GPU，它們連接成為一個(gè)巨大的GPU。黃仁勛表示：“NVIDIA DGX H100是全球客戶構(gòu)建AI基礎(chǔ)設(shè)施的藍(lán)圖”，現(xiàn)已全面投入生產(chǎn)。 H100 AI超級(jí)計(jì)算機(jī)現(xiàn)已開(kāi)始上線。Oracle Cloud Infrastructure宣布配備 H100 GPU 的新 OCI Compute 裸機(jī) GPU 實(shí)例在一定條件可用。 此外，亞馬遜云科技發(fā)布了即將推出的P5實(shí)例 EC2 UltraClusters，其規(guī)模可擴(kuò)展到2萬(wàn)個(gè)互連的H100 GPU。 上周，微軟 Azure 發(fā)布了其 H100 虛擬機(jī) ND H100 v5 的私人預(yù)覽版。 Meta 現(xiàn)已為其內(nèi)部的 AI 生產(chǎn)和研究團(tuán)隊(duì)部署了由 H100 驅(qū)動(dòng)的 Grand Teton AI 超級(jí)計(jì)算機(jī)。 OpenAI 將在其 Azure 超級(jí)計(jì)算機(jī)上使用 H100來(lái)支持其持續(xù)進(jìn)行的AI研究。 提供 H100 的其他合作伙伴包括 Cirrascale 和 CoreWeave，這兩家公司今天都宣布全面上市。此外，Google Cloud、Lambda、Paperspace 和 Vult 都計(jì)劃提供 H100。 DGX Cloud：隨時(shí)隨地將AI帶給每家公司 為了加快把DGX能力帶給初創(chuàng)企業(yè)和其他各類企業(yè)，以助力其快速打造新產(chǎn)品和制定AI戰(zhàn)略，黃仁勛發(fā)布了NVIDIA DGX Cloud。通過(guò)與微軟Azure、Google Cloud和Oracle Cloud Infrastructure合作，“從瀏覽器上” 即可實(shí)現(xiàn)將NVIDIA DGX AI超級(jí)計(jì)算機(jī) “帶給每家公司”。 DGX Cloud經(jīng)過(guò)優(yōu)化可以運(yùn)行NVIDIA AI Enterprise，這款全球領(lǐng)先的加速軟件套件將推動(dòng)AI端到端開(kāi)發(fā)和部署。黃仁勛表示：“DGX Cloud為客戶提供 NVIDIA AI和世界領(lǐng)先云服務(wù)提供商的出色服務(wù)。” NVIDIA正與領(lǐng)先的云服務(wù)提供商一起托管DGX Cloud基礎(chǔ)設(shè)施，Oracle Cloud Infrastructure是最早合作的云服務(wù)提供商。微軟Azure預(yù)計(jì)將在下個(gè)季度開(kāi)始托管DGX Cloud，該服務(wù)將很快擴(kuò)展到Google Cloud等。 黃仁勛表示，此次合作將NVIDIA的生態(tài)系統(tǒng)帶給云服務(wù)提供商，同時(shí)擴(kuò)大了NVIDIA的規(guī)模和影響力。企業(yè)將能夠按月租用DGX Cloud集群以便快速、輕松地?cái)U(kuò)展大型多節(jié)點(diǎn)訓(xùn)練工作負(fù)載的開(kāi)發(fā)。 賦能生成式AI 為了加速企業(yè)使用生成式AI的工作，黃仁勛發(fā)布了NVIDIA AI Foundations云服務(wù)系列，為需要構(gòu)建、完善和運(yùn)行自定義大型語(yǔ)言模型及生成式AI的客戶提供服務(wù)，他們通常使用專有數(shù)據(jù)進(jìn)行訓(xùn)練并完成特定領(lǐng)域的任務(wù)。 AI Foundations服務(wù)包括NVIDIA NeMo，用于構(gòu)建自定義語(yǔ)言文本-文本轉(zhuǎn)換生成模型；Picasso視覺(jué)語(yǔ)言模型制作服務(wù)，適用于想要構(gòu)建使用授權(quán)或?qū)Ｓ袃?nèi)容訓(xùn)練而成的自定義模型的客戶；以及BioNeMo，助力2萬(wàn)億美元規(guī)模的藥物研發(fā)行業(yè)的研究人員。 Adobe正與NVIDIA一起構(gòu)建一整套用于未來(lái)創(chuàng)作工作的新一代AI。 Getty Images正在與NVIDIA一起訓(xùn)練負(fù)責(zé)任的生成式文本-圖像，以及文本-視頻轉(zhuǎn)換基礎(chǔ)模型。 Shutterstock正在與NVIDIA一起訓(xùn)練一個(gè)生成式文本-3D轉(zhuǎn)換基礎(chǔ)模型，以簡(jiǎn)化詳細(xì)3D資產(chǎn)的創(chuàng)建。 推動(dòng)醫(yī)療的進(jìn)步 NVIDIA宣布，Amgen正在使用BioNeMo加速其藥物研發(fā)服務(wù)。其他BioNemo的搶先體驗(yàn)客戶包括Alchemab Therapeutics、AstraZeneca、Evozyne、Innophore和Insilico。 黃仁勛解釋說(shuō)，BioNeMo幫助研究人員使用他們的專有數(shù)據(jù)創(chuàng)建、微調(diào)和提供自定義模型。 此外，黃仁勛宣布，NVIDIA和全球最大的醫(yī)療技術(shù)提供商Medtronic正在一起為軟件定義醫(yī)療設(shè)備構(gòu)建一個(gè)AI平臺(tái)。此次合作將為Medtronic系統(tǒng)創(chuàng)建一個(gè)涵蓋手術(shù)導(dǎo)引和機(jī)器人輔助手術(shù)的通用平臺(tái)。 Medtronic今日宣布，其GI Genius系統(tǒng)使用AI實(shí)現(xiàn)了結(jié)腸癌早期檢測(cè)。該系統(tǒng)建立在用于實(shí)時(shí)傳感器處理系統(tǒng)的軟件庫(kù)NVIDIA Holoscan之上，并將于今年年底左右出貨。 黃仁勛表示：“全球2500億美元的醫(yī)療儀器市場(chǎng)正在轉(zhuǎn)型。” 加快生成式AI應(yīng)用的部署 為了幫助企業(yè)部署處于快速發(fā)展的生成式AI模型，黃仁勛發(fā)布了用于AI視頻、圖像生成、大型語(yǔ)言模型部署和推薦器推理的推理平臺(tái)。這些平臺(tái)將NVIDIA的全套推理軟件與最新的NVIDIA Ada、Hopper和Grace Hopper處理器相結(jié)合，包括同時(shí)在今天推出的NVIDIA L4 Tensor Core GPU和NVIDIA H100 NVL GPU。 • 用于AI視頻的NVIDIA L4可提供比CPU高出120倍的由AI支持的視頻性能，同時(shí)提高99%的能效。 • 用于圖像生成的NVIDIA L40針對(duì)圖形以及AI賦能的2D、視頻和3D圖像生成進(jìn)行了優(yōu)化。 • 用于大型語(yǔ)言模型部署的NVIDIA H100 NVL是規(guī)模化部署ChatGPT等大型語(yǔ)言模型的理想選擇。 • 用于推薦模型的NVIDIA Grace Hopper是圖形推薦模型、矢量數(shù)據(jù)庫(kù)和圖形神經(jīng)網(wǎng)絡(luò)的理想選擇。 Google Cloud是首家向客戶提供L4的云服務(wù)提供商。該公司已推出新的G2虛擬機(jī)并在今日提供私人預(yù)覽版。谷歌還將L4集成到其Vertex AI模型商店中。 微軟與NVIDIA一起將Omniverse帶給數(shù)億用戶 黃仁勛宣布，NVIDIA 正在與微軟合作，將 NVIDIA Omniverse Cloud 這一完全托管的云服務(wù)引入全球各行各業(yè)，并推出又一項(xiàng)云服務(wù)以加速企業(yè)實(shí)現(xiàn)前所未有的模擬和協(xié)作能力。 黃仁勛表示：“微軟和NVIDIA將為數(shù)億Microsoft 365和Azure用戶提供Omniverse” 。他同時(shí)還發(fā)布了最新NVIDIA OVX服務(wù)器、搭載NVIDIA RTX Ada Generation GPU的新一代工作站，以及英特爾為NVIDIA Omniverse優(yōu)化的最新CPU。 為了展示為3D設(shè)計(jì)協(xié)作及數(shù)字孿生模擬而構(gòu)建的開(kāi)放平臺(tái)NVIDIA Omniverse的強(qiáng)大功能，黃仁勛分享了一段視頻，展示了NVIDIA Isaac Sim如何通過(guò)完全保真的數(shù)字孿生幫助亞馬遜節(jié)省時(shí)間和金錢。NVIDIA Isaac Sim是在Omniverse基礎(chǔ)上構(gòu)建的機(jī)器人模擬和合成生成平臺(tái)。 該視頻展示了亞馬遜如何為其第一個(gè)完全自主的倉(cāng)庫(kù)機(jī)器人Proteus編排動(dòng)作，使其能夠在亞馬遜的巨大倉(cāng)庫(kù)中與人類和其他機(jī)器人一起搬運(yùn)裝有產(chǎn)品的箱子。 助力3萬(wàn)億美元規(guī)模汽車產(chǎn)業(yè)的數(shù)字化 為了展示Omniverse的能力，黃仁勛深入介紹了Omniverse在3萬(wàn)億美元汽車產(chǎn)業(yè)數(shù)字化中的作用。黃仁勛表示，到2030年，汽車制造商將建立300家工廠，生產(chǎn)2億輛電動(dòng)汽車，而電池制造商正在建設(shè)100家巨型工廠。他表示：“數(shù)字化將提高該行業(yè)的效率、生產(chǎn)力和速度。” 談到Omniverse在整個(gè)行業(yè)的應(yīng)用，黃仁勛表示，Lotus正在使用Omniverse以虛擬方式組裝焊接站。梅賽德斯-奔馳使用Omniverse為新車型建立、優(yōu)化和規(guī)劃裝配線。Rimac和Lucid Motors在Omniverse上使用真實(shí)設(shè)計(jì)數(shù)據(jù)創(chuàng)建數(shù)字商店，以實(shí)現(xiàn)對(duì)汽車逼真的描繪。 寶馬與Idealworks合作，使用Omniverse中的Isaac Sim生成訓(xùn)練工廠機(jī)器人的合成數(shù)據(jù)和場(chǎng)景。黃仁勛表示，寶馬正在使用Omniverse規(guī)劃全球工廠的運(yùn)營(yíng)，在實(shí)際工廠開(kāi)業(yè)兩年之前，他們會(huì)在 Omniverse 中完整建造一間新的電動(dòng)汽車工廠。 NVIDIA 還宣布全球領(lǐng)先的新能源汽車制造商比亞迪將在其更廣泛的車型中擴(kuò)展對(duì) NVIDIA DRIVE Orin 集中式計(jì)算平臺(tái)的使用。 加速半導(dǎo)體行業(yè)的突破 黃仁勛宣布，隨著當(dāng)前生產(chǎn)工藝接近物理學(xué)的極限，NVIDIA cuLitho將助力ASML、TSMC和Synopsis等半導(dǎo)體領(lǐng)導(dǎo)者加速新一代芯片的設(shè)計(jì)和制造。這項(xiàng)突破將加速計(jì)算引入到計(jì)算光刻領(lǐng)域。 全球領(lǐng)先的代工廠TSMC，以及電子設(shè)計(jì)自動(dòng)化領(lǐng)域的領(lǐng)導(dǎo)者Synopsys正在將全新的NVIDIA cuLitho計(jì)算光刻技術(shù)軟件庫(kù)整合到最新一代NVIDIA Hopper架構(gòu)GPU的軟件、制造工藝和系統(tǒng)中。 設(shè)備制造商 ASML正在GPU和cuLitho方面與NVIDIA展開(kāi)合作，并計(jì)劃在其所有計(jì)算光刻軟件產(chǎn)品中加入對(duì)GPU的支持。黃仁勛表示，光刻技術(shù)已臨近物理極限，NVIDIA推出的cuLitho可為行業(yè)的2納米及更高工藝奠定基礎(chǔ)。 他表示：“芯片產(chǎn)業(yè)幾乎是每一個(gè)行業(yè)的基礎(chǔ)。” 加速全球大型企業(yè)的發(fā)展 眾多知名的全球企業(yè)均支持黃仁勛的愿景。 電信巨頭AT&T采用NVIDIA AI，以實(shí)現(xiàn)更高效地?cái)?shù)據(jù)處理。同時(shí)，他們正在測(cè)試Omniverse ACE和Tokkio AI虛擬化身工作流為客服部門及其員工幫助臺(tái)建立、定制和部署虛擬助手。 美國(guó)運(yùn)通、美國(guó)郵政署、Microsoft Office和Teams以及亞馬遜等4萬(wàn)家客戶都在使用高性能的NVIDIA TensorRT推理優(yōu)化器和運(yùn)行時(shí)，以及多框架數(shù)據(jù)中心推理服務(wù)軟件NVIDIA Triton。 Uber 使用 Triton 實(shí)現(xiàn)每秒為數(shù)十萬(wàn)車輛預(yù)測(cè)到達(dá)時(shí)間。 擁有超過(guò)6000萬(wàn)日活用戶的Roblox使用Triton提供游戲推薦模型、構(gòu)建頭像、審核內(nèi)容和市場(chǎng)廣告。 微軟、騰訊和百度都在使用NVIDIA CV-CUDA實(shí)現(xiàn)AI計(jì)算機(jī)視覺(jué)。這項(xiàng)目前處于公測(cè)階段的技術(shù)可優(yōu)化前處理和后處理，節(jié)省4倍成本和能耗。 助力完成不可能的任務(wù) 在演講尾聲，黃仁勛向NVIDIA的系統(tǒng)、云和軟件合作伙伴以及研究人員、科學(xué)家和員工致謝。 黃仁勛宣布，NVIDIA已更新了100個(gè)加速庫(kù)，包括用于量子計(jì)算的cuQuantum和新開(kāi)源的CUDA Quantum、用于組合優(yōu)化的cuOpt以及用于計(jì)算光刻的cuLitho。 黃仁勛表示，全球NVIDIA生態(tài)目前已有400萬(wàn)名開(kāi)發(fā)者、4萬(wàn)家公司和NVIDIA 初創(chuàng)加速計(jì)劃中的1.4萬(wàn)家初創(chuàng)企業(yè)。 “我們正在助力全球完成不可能的任務(wù)。” 觀看GTC 2023 主題演講重播請(qǐng)?jiān)L問(wèn)：https://www.nvidia.cn/gtc-global/keynote/ |
