 |
Supermicro 支持 AMD Instinct MI300 系列加速器，從而擴展人工智能和 GPU 機架規(guī)模解決方案
由 AMD Instinct? MI300X 加速器提供支持的全新 8-GPU 系統(tǒng)現(xiàn)已推出，具備突破性的人工智能和 HPC 性能，可用于大規(guī)模人工智能培訓和 LLM 部署
加利福尼亞州圣何塞2023年12月8日 /美通社/ -- Supermicro, Inc.（納斯達克股票代碼：SMCI）是一家為人工智能、云技術(shù)、存儲和 5G/邊緣提供全面 IT 解決方案的制造商，宣布推出三款基于 AMD 的全新 H13 代 GPU 服務器產(chǎn)品，這些經(jīng)過優(yōu)化的服務器，具備先進性能且高效，并由全新的 AMD Instinct MI300 系列加速器提供支持。Supermicro 強大的機架規(guī)模解決方案配置 8-GPU 服務器和 AMD Instinct MI300X OAM，是大型模型訓練的理想選擇。
現(xiàn)提供配備 AMD Instinct MI300A 加速處理單元 (APU) 加速器的新型 2U 液冷和 4U 風冷服務器，可提高數(shù)據(jù)中心效率，并為人工智能、LLM 和 HPC 領(lǐng)域快速增長的復雜需求提供動力。新系統(tǒng)包含四個用于可擴展應用程序的 APU。Supermicro 可以為大規(guī)模環(huán)境提供完整的液冷機架，每個機架的 FP64 性能高達 1,728 TFlops。Supermicro 在全球擁有制造工廠，簡化了新服務器的交付流程，以實現(xiàn)人工智能和 HPC 的融合。
Supermicro 總裁兼首席執(zhí)行官 Charles Liang 表示："我們非常高興能夠利用最新一代 AMD Instinct 加速器擴展我們用于人工智能培訓的機架規(guī)模全面 IT 解決方案，與前幾代產(chǎn)品相比，性能提升高達 3.4 倍。我們?nèi)蛑圃旃S每月可供應 4,000 個液冷機架，因此可以憑借 AMD Instinct MI300X 加速器或 AMD Instinct MI300A APU 提供最新的 H13 GPU 解決方案。我們的架構(gòu)久經(jīng)考驗，能夠為每個 GPU 提供 1:1 的 400G 網(wǎng)絡，這些 GPU 專為大規(guī)模人工智能和超級計算集群設計，能夠完全集成液冷解決方案，為客戶提供兼?zhèn)湫阅苄实母偁巸?yōu)勢，并且易于部署。"
了解更多有關(guān)配備 AMD 加速器的 Supermicro 服務器信息
LLM 優(yōu)化的 AS – 8125GS-TNMR2 系統(tǒng)基于 Supermicro 的構(gòu)建塊架構(gòu)，是一種經(jīng)驗證的設計，可用于以風冷和液冷機架規(guī)模設計的高性能人工智能系統(tǒng)。平衡的系統(tǒng)設計將 GPU 與 1:1 網(wǎng)絡相關(guān)聯(lián)，從而形成跨節(jié)點和機架的大型高帶寬內(nèi)存池，以適應當今最大的語言模型，參數(shù)高達數(shù)萬億，最大限度地提高并行計算并最大限度地減少訓練時間和推理延遲。配備 MI300X OAM 加速器的 8U 系統(tǒng)借助 AMD Infinity Fabric?Links 提供 8-GPU 的原始加速能力，可在開放標準平臺上可實現(xiàn)高達 896GB/s 的峰值理論 P2P I/O 帶寬，且在單個系統(tǒng)中具有 1.5TB 的 HBM3 GPU 內(nèi)存，在業(yè)界遙遙領(lǐng)先，還支持原生稀疏矩陣，旨在節(jié)省功耗、降低計算周期并減少人工智能工作負載的內(nèi)存使用。各服務器采用雙插槽 AMD EPYC?9004 系列處理器，最高可達 256 核。在機架規(guī)模上，超過 1000 個內(nèi)核的 CPU、24TB 的 DDR5 內(nèi)存、6.144TB 的 HBM3 內(nèi)存以及 9728 個計算單元可用于最復雜的人工智能環(huán)境。Supermicro 在 8U 配置方面擁有豐富經(jīng)驗，并使用 OCP 加速器模塊 (OAM)，相較于定制設計，可更快將配置完整的服務器推向市場，從而降低成本和減少交付時間。
Supermicro 還推出了一款密度優(yōu)化的 2U 液冷服務器 AS –2145GH-TNMR，以及一款 4U 風冷服務器 AS –4145GH-TNMR，每臺服務器均配備 4 個 AMD Instinct?MI300A 加速器。新服務器專為 HPC 和人工智能應用設計，需要快速的 CPU - GPU 通信。通過在單個芯片上結(jié)合高性能的 AMD CPU、GPU 和 HBM3 內(nèi)存，APU 消除了冗余內(nèi)存副本。各服務器均配備用于應用程序擴展的先進 x86"Zen4"CPU 內(nèi)核。此外，各服務器包括的 HBM3 內(nèi)存高達 512GB。在一個由 21 個 2U 系統(tǒng)組成的全機架 (48U) 解決方案中，HBM3 可用內(nèi)存達 10TB 以上，還配備 19,152 個計算單元。從 HBM3 到 CPU 的內(nèi)存帶寬為 5.3 TB/s。
這兩個系統(tǒng)都具有支持 400G 以太網(wǎng)的雙 AIOM 和網(wǎng)絡擴展選項，旨在提升高性能計算空間、可擴展性和效率。2U 直接芯片液冷系統(tǒng)提供了出色的總體擁有成本 (TCO)，在 21 個 2U 系統(tǒng)機架解決方案的基礎(chǔ)上，每個機架產(chǎn)生 61,780 瓦能量，而不是 95,256 瓦風冷機架，節(jié)能 35% 以上，并且與風冷系統(tǒng)相比，風扇數(shù)量減少 70%。
AMD 執(zhí)行副總裁兼數(shù)據(jù)中心解決方案事業(yè)部總經(jīng)理 Forrest Norrod 表示："AMD Instinct MI300 系列加速器在長期加速高性能計算應用和發(fā)展迅速的生成式人工智能需求方面都具有領(lǐng)先的性能。我們將繼續(xù)與 Supermicro 密切合作，以 MI300 系列加速器為基礎(chǔ)，利用 Supermicro 在系統(tǒng)和數(shù)據(jù)中心設計的專業(yè)知識，推動領(lǐng)先的人工智能和 HPC 全面解決方案上市。"
向 Supermicro 和 AMD 專家了解更多信息。觀看網(wǎng)絡研討會直播或點播。
欲了解更多信息，請訪問：
AS -8125GS-TNMR2 (8U w/ MI300x)
AS -2145GH-TNMR (2U LC w/ MI300A)
AS -4145GH-TNMR (4U AC w/ MI300A)
關(guān)于 Super Micro Computer, Inc.
Supermicro（納斯達克股票代碼：SMCI）是應用優(yōu)化整體 IT 解決方案的全球領(lǐng)軍企業(yè)。Supermicro成立于加州圣何塞并在該地運營，致力于為企業(yè)、云計算、人工智能和 5G 電信/邊緣 IT 基礎(chǔ)設施提供率先面市的創(chuàng)新。我們是服務器、人工智能、存儲、物聯(lián)網(wǎng)、交換機系統(tǒng)、軟件和支持服務的整體 IT 解決方案制造商。Supermicro 的主板、電源和機箱設計專業(yè)知識，更進一步推動了我們的研發(fā)和生產(chǎn)，為我們的全球客戶提供了從云端到邊緣的下一代創(chuàng)新技術(shù)。我們的產(chǎn)品均在公司內(nèi)部（包括美國、亞洲和荷蘭）完成設計和制造，通過全球運營實現(xiàn)規(guī)模和效益，從而優(yōu)化總體擁有成本 (TCO)，并能夠（通過綠色計算）減少對環(huán)境的影響。獲獎無數(shù)的 Server Building Block Solutions® 通過我們靈活可重復使用的構(gòu)建塊，為客戶提供了豐富的可選系統(tǒng)產(chǎn)品系列，用于優(yōu)化其確切的工作負載和應用。這些構(gòu)建塊支持全系列外形規(guī)格、處理器、內(nèi)存、GPU、存儲、網(wǎng)絡、電源和冷卻解決方案（空調(diào)、自然空氣冷卻或液體冷卻）。
Supermicro、Server Building Block Solutions 和 We Keep IT Green 是 Supermicro Computer, Inc. 的商標和/或注冊商標。
AMD、AMD Arrow 標識、AMD Instinct、EPYC 及其組合為 Advanced Micro Devices 的商標。
所有其他品牌、名稱和商標均為其各自所有者所有。
