NVIDIA HGX A100 4-GPU平臺和搭載第3代Intel Xeon可擴(kuò)展處理器的資源節(jié)約型2U 2節(jié)點(diǎn)GPU系統(tǒng)

　　Super Micro Computer, Inc. （SMCI） 為企業(yè)級運(yùn)算、儲存、網(wǎng)絡(luò)解決方案和綠色計(jì)算技術(shù)等領(lǐng)域的全球領(lǐng)導(dǎo)者，宣布推出搭載NVIDIA Ampere architecture GPU以及內(nèi)建AI加速器的第3代Intel Xeon可擴(kuò)展處理器的全新系統(tǒng)（Supermicro X12系列）。這些服務(wù)器專為需要低延遲和高應(yīng)用性能的AI應(yīng)用所設(shè)計(jì)。2U NVIDIA HGX A100 4-GPU系統(tǒng)適于大規(guī)模部署具有高速CPU-GPU和GPU-GPU互連的現(xiàn)代AI訓(xùn)練叢集。而Supermicro 2U 2-Node系統(tǒng)則可通過共享電源供應(yīng)和冷卻風(fēng)扇來減少能耗和成本，降低碳排放，同時可匹配工作負(fù)載選用多款GPU加速器。這兩款系統(tǒng)皆內(nèi)含由目前最新的Intel Software Guard Extensions （Intel SGX） 實(shí)現(xiàn)的高級安全功能。

　　Supermicro總裁暨首席執(zhí)行官Charles Liang表示：“Supermicro工程師再度為我們豐富多元的高性能GPU服務(wù)器系列打造出了全新產(chǎn)品，相比于市場上的其他設(shè)計(jì)更能節(jié)省成本、空間以及能耗。憑借創(chuàng)新的設(shè)計(jì)，我們?yōu)榭蛻舻腁I和HPC（高性能運(yùn)算）工作負(fù)載，提供可搭載4個NVIDIA HGX A100（代號：Redstone）GPU加速器的2U高密度GPU系統(tǒng)。此外，我們的2U 2節(jié)點(diǎn)系統(tǒng)經(jīng)過獨(dú)特設(shè)計(jì)，可共享電源供應(yīng)和散熱元件，進(jìn)而降低營運(yùn)成本以及對環(huán)境的影響。”

　　此款2U NVIDIA HGX A100服務(wù)器采用第3代Intel Xeon可擴(kuò)展處理器平臺，支持Intel Deep Learning Boost Technology，且針對分析、訓(xùn)練和推理工作負(fù)載進(jìn)行了優(yōu)化設(shè)計(jì)。此系統(tǒng)可搭載4顆A100 GPU并以NVIDIA NVLink技術(shù)完全互連，提供高達(dá)2.5 petaflops的AI性能。其高達(dá)320GB的GPU內(nèi)存，可加速企業(yè)數(shù)據(jù)科學(xué)以及AI方面的突破。對于如BERT大型推理等復(fù)雜型對話式AI模型，此系統(tǒng)比上一代GPU的演算快了4倍，而在BERT大型AI訓(xùn)練方面則有3倍的性能提升。

　　此外，這些系統(tǒng)采用高級散熱和冷卻設(shè)計(jì)，成為優(yōu)先考慮節(jié)點(diǎn)密度和電源效率的高效能叢集的理想選擇。這些系統(tǒng)還可以采用液冷系統(tǒng)，從而節(jié)省更多的運(yùn)營成本。該平臺亦支持Intel Optane持續(xù)型內(nèi)存（PMem），在GPU上進(jìn)行處理之前，可以將更大的模型儲存在靠近CPU的內(nèi)存中。對于需要多系統(tǒng)互動的應(yīng)用，此系統(tǒng)還可以配備4張NVIDIA ConnectX-6 200Gb/s網(wǎng)速的InfiniBand卡，以1:1 GPU-DPU的比例支持GPUDirect RDMA。

　　全新的2U 2節(jié)點(diǎn)是一種節(jié)能的資源節(jié)省架構(gòu)，設(shè)計(jì)能讓每個節(jié)點(diǎn)支持至多3張雙倍寬度的GPU。每個節(jié)點(diǎn)還配備一個具有多達(dá)40個核心、內(nèi)建AI及HPC加速器的第3代Intel Xeon可擴(kuò)展處理器。廣泛的AI、渲染和VDI應(yīng)用都能從這種CPU和GPU的平衡設(shè)計(jì)中受益。該系統(tǒng)配備Supermicro的高級I/O模塊（AIOM）擴(kuò)充插槽，具有快速靈活的網(wǎng)絡(luò)連接功能，可在運(yùn)行工作負(fù)載和處理深度學(xué)習(xí)模式時負(fù)荷龐大的數(shù)據(jù)流量，滿足高度需求的AI/ML應(yīng)用程序、深度學(xué)習(xí)訓(xùn)練和推理。本系統(tǒng)也是多運(yùn)行個體的高級云游戲和許多其它計(jì)算密集型VDI應(yīng)用程序的理想選擇。此外，虛擬內(nèi)容交付網(wǎng)絡(luò)（vCDN）能滿足對流媒體服務(wù)日益增長的需求。系統(tǒng)內(nèi)建的備用的電源供應(yīng)器，能供任何一個節(jié)點(diǎn)都能在發(fā)生故障時使用相鄰節(jié)點(diǎn)的電源供應(yīng)器。