為AI服務器與數(shù)據(jù)中心帶來容量/帶寬/速度三合一升級
全新架構以PCIe Gen5帶寬突破計算僵局,E3.S 2T規(guī)格為系統(tǒng)擴充增添彈性
深圳2024年9月5日 /美通社/ -- AI服務器應用持續(xù)升溫,相關設備的硬件規(guī)格需求也隨之提升,使得業(yè)界過往普遍采用的容量與帶寬標準,已無法完整滿足現(xiàn)今龐大AI計算所需的效能。呼應產(chǎn)業(yè)現(xiàn)狀,全球AI解決方案與工業(yè)級內存領導品牌宜鼎國際 (Innodisk)領先推出「CXL內存模塊」,透過全新CXL協(xié)議,提供單條64GB大容量及高達32GB/s的帶寬。宜鼎CXL內存采用E3.S 2T規(guī)格,為系統(tǒng)提供更彈性且成本合理的擴充方式,讓服務器可直上AI計算所需的硬件規(guī)格。除了提升服務器容量與帶寬外,更透過CXL獨創(chuàng)的「共享內存資源」特性及PCIe接口,打破傳統(tǒng)內存信道的帶寬限制,讓服務器效能可隨著AI發(fā)展與時俱進。
宜鼎采用CXL全新架構:解鎖對內存資源的制約,突破服務器三大計算瓶頸
TrendForce研調預估,在大型云端業(yè)者及品牌廠對AI服務器的持續(xù)投資下,今年AI服務器出貨量將上修至167萬臺、產(chǎn)值占整體服務器市場比重高達65%。同時,對服務器效能至關重要的CPU亦迅速演進,然而盡管CPU的計算能力提升,卻受限于傳統(tǒng)內存信道對帶寬的限制,讓CPU無法完整獲得內存的計算資源,因而難以發(fā)揮最大硬件效能。此情形遍布在全球數(shù)以萬計的服務器上,尤其對擁有大量服務器的數(shù)據(jù)中心而言,影響更為顯著。
宜鼎積極投入創(chuàng)新,領先推出采用全新CXL協(xié)議的內存模塊,以改善上述情形、并解決服務器系統(tǒng)現(xiàn)存的三大瓶頸。包括:透過采用簡化的協(xié)議及高兼容性的PCIe 5.0接口,改善「系統(tǒng)組件之間因協(xié)議不同導致的傳輸延遲」;透過CXL的內存池 (Memory pooling )技術,讓同一層架多臺服務器的CPU、加速器等操作數(shù)件共享內存資源,減少資源冗余,解決「內存利用率低」的狀況。
此外,有別于目前主流DDR架構,CXL底層技術采用PCIe接口,使其可透過獨立通道,與服務器內既有的DDR5內存并存,讓CPU在現(xiàn)有的DIMM以外,可再輕松從PCIe接口獲得CXL內存模塊帶來的額外帶寬與容量,有效解決目前「CPU可用內存帶寬受限」的痛點,發(fā)揮加乘效益。
宜鼎CXL內存模塊,以32GB/s帶寬、單條64GB大容量為AI與機器學習助力
宜鼎CXL內存模塊采用 EDSFF標準下的E3.S 2T尺寸規(guī)格,可靈活抽換、調配容量,讓服務器享有高擴充彈性。此外,宜鼎CXL內存具備單條64GB的存取容量;若裝載4個CXL內存模塊,即可為原本配備8條128GB內存的服務器增加30%內存容量及40%帶寬,輕松將其擴充至AI計算所需的1.2TB以上容量。宜鼎CXL內存外觀設計采用鋁合金外殼,正反兩面分別為霧面的銀、黑配色,不僅沿襲宜鼎專注工控的沉穩(wěn)質感、更揉合CXL代表的創(chuàng)新與革命性特質。
宜鼎CXL內存支持CXL 2.0規(guī)范、采用Type 3傳輸協(xié)議,并透過PCIe Gen5 x8接口,提供高達32GB/s的傳輸帶寬。因此非常適用于加速AI與機器學習、大規(guī)模分析、圖形數(shù)據(jù)庫等應用。
宜鼎國際工控DRAM事業(yè)處總經(jīng)理張偉民表示:「宜鼎持續(xù)致力為AI賦能,也因而愿意挹注大量研發(fā)資源提升系統(tǒng)計算效能,領先全球模塊廠商,成為率先投入開發(fā)并量產(chǎn)CXL內存的品牌之一。CXL內存除了能大幅提升服務器帶寬與存取容量,更具備廣泛的支持性,可幫助宜鼎的服務器與數(shù)據(jù)中心客戶,在不須大幅改動硬件的前提下,擴充既有系統(tǒng)、達到近乎無痛的效能升級。目前CXL協(xié)議已在各國際大廠協(xié)力推動下持續(xù)蓬勃,我們也相當看好由CXL引領的計算趨勢,將可讓服務器端的AI應用推升至下個高峰?!?/p>
CXL目前在業(yè)界仍屬新興技術,透過宜鼎細致而全方位的導入與技術支持服務,可讓客戶在面對全新架構時,安心擁抱升級。同時,宜鼎具備多年工控與AI領域客制經(jīng)驗、以及從各代DDR到CXL的豐富產(chǎn)品規(guī)格,可提供高彈性、為各種終端環(huán)境量身打造的內存配置與解決方案。
宜鼎CXL內存模塊預計于2025年初正式出貨,為云端計算、大型數(shù)據(jù)中心、網(wǎng)絡通訊、邊緣計算等領域賦能。更多產(chǎn)品相關信息,請瀏覽:https://innodisk.cc/GDFQ9a。
關于宜鼎及旗下解決方案,更多信息請參考:http://www.myinnodisk.cn
宜鼎集團AIoT布局,請參考:https://www.innodisk.com/group_intro/tw.html