NVIDIA今日宣布推出第四代NVIDIA DGX系統(tǒng)，這是全球首個(gè)基于全新NVIDIA H100 Tensor Core GPU的AI平臺(tái)。

NVIDIA DGX H100 Systems

DGX H100系統(tǒng)能夠滿足大型語(yǔ)言模型、推薦系統(tǒng)、醫(yī)療健康研究和氣候科學(xué)的大規(guī)模計(jì)算需求。每個(gè)DGX H100系統(tǒng)配備八塊NVIDIA H100 GPU，并由 NVIDIA NVLink連接，能夠在新的FP8精度下達(dá)到32 Petaflop的AI性能，比上一代系統(tǒng)性能高6倍。

DGX H100系統(tǒng)是新一代NVIDIA DGX POD和NVIDIA DGX SuperPOD AI基礎(chǔ)設(shè)施平臺(tái)的構(gòu)建模塊。新的DGX SuperPOD架構(gòu)采用了一個(gè)全新的NVIDIA NVLink Switch系統(tǒng)，通過(guò)這一系統(tǒng)最多可連接32個(gè)節(jié)點(diǎn)，總計(jì)256塊H100 GPU。

新一代DGX SuperPOD提供1 Exaflops的FP8 AI性能，比上一代產(chǎn)品性能高6倍，能夠運(yùn)行具有數(shù)萬(wàn)億參數(shù)的龐大LLM工作負(fù)載，從而推動(dòng)AI的前沿發(fā)展。

NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“AI已經(jīng)從根本上改變了軟件的功能和產(chǎn)出方式。利用AI來(lái)革新自身所處行業(yè)的公司也意識(shí)到了自身AI基礎(chǔ)設(shè)施的重要性。NVIDIA全新DGX H100系統(tǒng)將賦能企業(yè)AI工廠，助力其從數(shù)據(jù)中提煉出我們最具價(jià)值的資源，即‘智能’。"

全球運(yùn)行速度最快的AI超級(jí)計(jì)算機(jī)——NVIDIA Eos

NVIDIA將率先使用突破性的新型AI架構(gòu)來(lái)構(gòu)建DGX SuperPOD，賦能NVIDIA研究人員的研究工作，推動(dòng)氣候科學(xué)、數(shù)字生物學(xué)和AI未來(lái)的發(fā)展。

“Eos”超級(jí)計(jì)算機(jī)將于今年晚些時(shí)候開始運(yùn)行，共配備576臺(tái)DGX H100系統(tǒng)，共計(jì) 4608塊DGX H100 GPU，有望成為全球運(yùn)行速度最快的AI系統(tǒng)。

NVIDIA Eos預(yù)計(jì)將提供18.4 Exaflops的AI計(jì)算性能，比日本的Fugaku超級(jí)計(jì)算機(jī)快4倍，后者是目前運(yùn)行速度最快的系統(tǒng)。在傳統(tǒng)的科學(xué)計(jì)算方面，Eos預(yù)計(jì)將提供275 Petaflop 的性能。

對(duì)于NVIDIA及其OEM和云計(jì)算合作伙伴，Eos將成為其先進(jìn)AI基礎(chǔ)設(shè)施的藍(lán)圖。

借助DGX H100系統(tǒng)、DGX POD和DGX SuperPOD，輕松擴(kuò)展企業(yè)級(jí)AI

在企業(yè)從初始項(xiàng)目發(fā)展到廣泛部署的過(guò)程中，DGX H100系統(tǒng)能夠?qū)崿F(xiàn)輕松擴(kuò)展，滿足企業(yè)的AI需求。

除了八塊H100 GPU以及總計(jì)6400億個(gè)晶體管之外，每個(gè)DGX H100系統(tǒng)還包含兩個(gè)NVIDIA BlueField-3 DPU，以用于卸載、加速和隔離高級(jí)網(wǎng)絡(luò)、存儲(chǔ)及安全服務(wù)。

八個(gè)NVIDIA ConnectX-7 Quantum-2 InfiniBand網(wǎng)卡能夠提供400 GB/s的吞吐量，可用于連接計(jì)算和存儲(chǔ)，這一速度比上一代系統(tǒng)提升了一倍。第四代NVLink與NVSwitch相結(jié)合，能夠在每個(gè)DGX H100系統(tǒng)中的各個(gè)GPU之間實(shí)現(xiàn)900 GB/s的連接速度，是上一代系統(tǒng)的1.5倍。

DGX H100系統(tǒng)使用雙x86 CPU，能夠與NVIDIA網(wǎng)絡(luò)和NVIDIA合作伙伴提供的存儲(chǔ)設(shè)備相結(jié)合，使DGX POD能夠靈活用于各種規(guī)模的AI計(jì)算。

借助 DGX H100 系統(tǒng)，DGX SuperPOD可成為具有可擴(kuò)展性的卓越的企業(yè)級(jí)AI中心。DGX SuperPOD中的DGX H100節(jié)點(diǎn)和H100 GPU由NVLink Switch系統(tǒng)和NVIDIA Quantum-2 InfiniBand連接，帶寬速度可達(dá)70 TB/s，比上一代產(chǎn)品高11倍。NVIDIA合作伙伴提供的存儲(chǔ)設(shè)備將經(jīng)過(guò)測(cè)試和認(rèn)證，以滿足DGX SuperPOD AI計(jì)算的需求。

多個(gè)DGX SuperPOD單元可組合使用，為汽車、醫(yī)療健康、制造、通信、零售等行業(yè)提供開發(fā)大型模型所需的AI性能。

NVIDIA DGX Foundry托管的開發(fā)解決方案正在全球擴(kuò)展，使DGX SuperPOD客戶能夠在他們的系統(tǒng)安裝期間，立即獲取先進(jìn)的計(jì)算基礎(chǔ)設(shè)施。北美、歐洲和亞洲的新增地點(diǎn)支持遠(yuǎn)程訪問(wèn)DGX SuperPOD（或其中部分）。

DGX Foundry中包含NVIDIA Base Command軟件，后者能夠使客戶基于DGX SuperPOD基礎(chǔ)設(shè)施，輕松管理端到端AI開發(fā)生命周期。

通過(guò)在全球各地的Equinix IBX（International Business Exchange）數(shù)據(jù)中心托管的NVIDIA LaunchPad實(shí)驗(yàn)室，符合資格的企業(yè)可以免費(fèi)體驗(yàn)NVIDIA Base Command和DGX系統(tǒng)。

企業(yè)級(jí)AI軟件MLOps助力客戶提高AI采用率

為支持正在進(jìn)行AI開發(fā)的DGX客戶，NVIDIA DGX-Ready軟件合作伙伴（包括Domino Data Lab、Run:ai和Weights&Biases等）提供的MLOps解決方案將加入“NVIDIA AI加速”計(jì)劃。

參與活動(dòng)的合作伙伴提供的MLOps應(yīng)用程序?qū)⒔?jīng)過(guò)驗(yàn)證，為DGX客戶提供企業(yè)級(jí)工作流以及集群管理、調(diào)度與編排解決方案。

此外，NVIDIA DGX系統(tǒng)現(xiàn)在包含NVIDIA AI Enterprise軟件套件，該套件新增了對(duì)裸金屬基礎(chǔ)設(shè)施的支持。DGX客戶可使用軟件套件中包含的預(yù)訓(xùn)練NVIDIA AI平臺(tái)模型、工具包和框架（例如NVIDIA RAPIDS、NVIDIA TAO工具套件、NVIDIA Triton推理服務(wù)器等）來(lái)加快工作速度。

DGX-Ready托管服務(wù)計(jì)劃能夠簡(jiǎn)化AI部署

隨著企業(yè)AI采用率不斷提高，客戶正在尋求更多選擇，以便添加實(shí)現(xiàn)業(yè)務(wù)轉(zhuǎn)型所需的基礎(chǔ)設(shè)施。NVIDIA推出新的DGX-Ready托管服務(wù)計(jì)劃，能夠?yàn)橄Ｍc服務(wù)提供商開展合作來(lái)監(jiān)督其基礎(chǔ)設(shè)施的客戶提供支持。

德勤是率先與NVIDIA合作開展此計(jì)劃的全球提供商，并將經(jīng)過(guò)認(rèn)證，可與區(qū)域供應(yīng)商（CGit、ePlus、Insight Enterprises和PTC System）一起，為歐洲、北美和亞洲的客戶提供支持。

德勤咨詢首席合伙人兼AI與數(shù)據(jù)運(yùn)營(yíng)服務(wù)負(fù)責(zé)人Jim Rowan表示：“只有企業(yè)能夠?qū)⒓夹g(shù)集成到運(yùn)營(yíng)中時(shí)，AI才可能助推業(yè)務(wù)實(shí)現(xiàn)突破。借助新的DGX-Ready托管服務(wù)計(jì)劃，客戶可以輕松采用先進(jìn)的AI技術(shù)以及由德勤全球?qū)＜夜芾淼腘VIDIA DGX系統(tǒng)和軟件?！?/p>

DGX-Ready生命周期管理計(jì)劃助力實(shí)現(xiàn)輕松升級(jí)

現(xiàn)在，客戶可以通過(guò)新的DGX-Ready生命周期管理計(jì)劃，借助新的NVIDIA DGX平臺(tái)升級(jí)其現(xiàn)有DGX系統(tǒng)。

參加DGX-Ready生命周期管理計(jì)劃的NVIDIA渠道合作伙伴將可以更新上一代DGX系統(tǒng)，以供新客戶進(jìn)行購(gòu)買，并擴(kuò)展用于AI基礎(chǔ)設(shè)施的全球通用系統(tǒng)的獲取途徑。

供貨信息

從第三季度起，NVIDIA的全球合作伙伴將開始供應(yīng)NVIDIA DGX H100系統(tǒng)、DGX POD 和DGX SuperPOD。

客戶還可以選擇在由Cyxtera、Digital Realty和Equinix IBX數(shù)據(jù)中心等NVIDIA DGX-Ready數(shù)據(jù)中心合作伙伴運(yùn)營(yíng)的托管設(shè)施中部署DGX系統(tǒng)。

七彩虹iGame GeForce RTX 3060 Ti Ultra W OC LHR

[經(jīng)銷商]京東商城

[產(chǎn)品售價(jià)]4799元

進(jìn)入購(gòu)買

微星（MSI）萬(wàn)圖師 GeForce RTX 3060 Ti VENTUS 3X 8G OC LHR 超頻版 三風(fēng)扇 次旗艦 電競(jìng)游戲設(shè)計(jì)電腦顯卡

[經(jīng)銷商]京東商城

[產(chǎn)品售價(jià)]4599元

進(jìn)入購(gòu)買

麗臺(tái)Quadro P1000

[經(jīng)銷商]京東商城

[產(chǎn)品售價(jià)]2699元

進(jìn)入購(gòu)買

關(guān)鍵詞： NVIDIA H100