全球首款基于 NVIDIA A100 構(gòu)建的 AI 系統(tǒng)

NVIDIA DGXTM A100 是適用于各種 AI 基礎(chǔ)架構(gòu)和工作負(fù)載的通用系統(tǒng)，基于革命性的NVIDIA A100 Tensor Core GPU 構(gòu)建，并由 NVIDIA 十多年來的 AI 創(chuàng)新支持。DGX A100一個(gè)平臺將訓(xùn)練、推理和數(shù)據(jù)分析整合到具有優(yōu)化軟件的整合系統(tǒng)中，而優(yōu)化的軟件是 AI 基礎(chǔ)架構(gòu)的基本構(gòu)建模塊。NVIDIA DGX A100 憑借每個(gè) DGX 系統(tǒng)都擁有的 AI 專家支持，可加快企業(yè) AI 在規(guī)劃、部署和持續(xù)優(yōu)化過程中的端到端生命周期。

AI 數(shù)據(jù)中心的價(jià)值體現(xiàn)

• 

  各種 AI 工作負(fù)載的通用系統(tǒng)

   

  NVIDIA DGX A100 是適用于所有 AI 基礎(chǔ)架構(gòu)（包括分析、訓(xùn)練、推理基礎(chǔ)架構(gòu)）的通用系統(tǒng)。該系統(tǒng)設(shè)定了新的計(jì)算密度標(biāo)桿，將 5 petaFLOPS 的 AI 性能裝進(jìn) 6U 尺寸，用一個(gè)平臺代替所有 AI 工作負(fù)載的傳統(tǒng)基礎(chǔ)架構(gòu)孤島。

• 

  AI 專家團(tuán)隊(duì)支持

   

  NVIDIA DGX A100 是一個(gè)完整的硬件和軟件平臺，由數(shù)千名NVIDIA AI 專家支持，擁有 DGX A100 系統(tǒng)，您可以直接從具有 AI 經(jīng)驗(yàn)的全球團(tuán)隊(duì)獲得幫助，他們提供規(guī)范的指導(dǎo)和專業(yè)知識，以 NVIDIA十多年來在 AI方面的豐富經(jīng)驗(yàn)助力 AI 轉(zhuǎn)型。這可確保關(guān)鍵應(yīng)用的快速啟動和運(yùn)行并保持平穩(wěn)運(yùn)轉(zhuǎn)，從而大大縮短了獲得洞察的時(shí)間。

• 

  超快的加速性能

   

  NVIDIA DGX A100 是在全球率先采用 NVIDIA A100 Tensor Core GPU 的系統(tǒng)。通過集成八塊 A100 GPU，此系統(tǒng)可出色完成加速任務(wù)，并可針對 NVIDIA CUDA-X™ 軟件和整套端到端 NVIDIA 數(shù)據(jù)中心解決方案進(jìn)行全面優(yōu)化。

• 

  卓越的數(shù)據(jù)中心可擴(kuò)展性

   

  NVIDIA DGX A100 內(nèi)置 Mellanox ConnectX-6 VPI HDR InfiniBand 和以太網(wǎng)適配器，其雙向帶寬峰值為 450Gb/s。此優(yōu)勢是使 DGX A100 成為 NVIDIA DGX SuperPOD™ 等大型 AI 集群基礎(chǔ)構(gòu)件的諸多因素之一，也是成為可擴(kuò)展 AI 基礎(chǔ)架構(gòu)企業(yè)藍(lán)圖的原因之一。

劃時(shí)代的性能

• 

  分析

   

  PageRank

  更快的分析意味著對 AI 開發(fā)有更深入的見解

• 

  訓(xùn)練

   

  NLP: BERT-Large

  更快的訓(xùn)練速度帶來更先進(jìn)的 AI 模型

• 

  推理

   

  Peak Compute

  更快的推理通過最大化系統(tǒng)利用率提高投資回報(bào)率

探索功能強(qiáng)大的 DGX A100 組件

劃時(shí)代的性能

• 

  NVIDIA A100 Tensor Core GPU

   

  NVIDIA A100 Tensor Core GPU 可針對 AI、數(shù)據(jù)分析和高性能計(jì)算 (HPC) 實(shí)現(xiàn)出色的加速，應(yīng)對極其嚴(yán)峻的計(jì)算挑戰(zhàn)。借助第三代 NVIDIA Tensor Core 提供的巨大性能提升，A100 GPU 可高效擴(kuò)展至數(shù)千塊，或在使用多實(shí)例 GPU 時(shí)，可將其分配為七個(gè)較小的專用實(shí)例對各種規(guī)模工作負(fù)載進(jìn)行加速。

• 

  多實(shí)例 GPU (MIG)

   

  借助 MIG，可將 DGX A100 中的八塊 A100 GPU 配置為多達(dá) 56 個(gè) GPU 實(shí)例，每個(gè)實(shí)例都具有自己的高帶寬內(nèi)存，高速緩存和計(jì)算核心，完全隔離。這使管理員可合理調(diào)配 GPU 資源，確保多個(gè)工作負(fù)載的服務(wù)質(zhì)量。

• 

  新一代 NVLink 和 NVSwitch

   

  DGX A100 中的第三代 NVIDIA® NVLink® 使 GPU 至 GPU 直接帶寬提高一倍，達(dá)到600 GB/s，幾乎比 PCIe 4.0 高出 10 倍。DGX A100 還采用新一代 NVIDIA NVSwitch™，其速度是前一代的兩倍。

• 

  Mellanox ConnectX-6 VPI HDR InfiniBand

   

  DGX A100 采用最新 Mellanox ConnectX-6 VPI HDR InfiniBand/以太網(wǎng)適配器，每個(gè)適配器的運(yùn)行速度高達(dá)200 Gb/s，為大規(guī)模 AI 工作負(fù)載創(chuàng)建高速網(wǎng)絡(luò)結(jié)構(gòu)。

• 

  優(yōu)化的軟件堆棧

   

  DGX A100 集成經(jīng)過測試和優(yōu)化的 DGX 軟件堆棧，包括通過 AI 調(diào)整的基本操作系統(tǒng)、所有必需的系統(tǒng)軟件以及 GPU 加速應(yīng)用、預(yù)訓(xùn)練的模型以及 NGC™ 提供的更多功能。

• 

  內(nèi)置安全機(jī)制

   

  DGX A100 采用多層方法為 AI 部署提供了最強(qiáng)大的安全性，該方法可以保護(hù)所有主要的硬件和軟件組件，包括自加密驅(qū)動、簽名軟件容器、安全管理和監(jiān)控等。