打通AI落地行業“最后一公里”
今年,開鑿在人工客服電話智慧的確保下,工業企業數智化改變已步入產值化“增倍轉型升級”的階段中,越發是AI技木的高速度發展歷程,與app情景的持續尋找提升,都讓種類AI轉型升級app如下雨過后春筍般不斷涌現,并高速度受益千行萬業。
但與此同時,落地AI的火熱態勢,也引爆了智能算力的需求。根據中國信通院發布的行業《中國算力發展指數白皮書(2023年)》顯示,在目前的算力規模中,通用算力規模占比達74%,智能算力規模占比達25%,同比增加60%,成為當前算力快速增長的驅動力,而預計未來幾年,智能算力的(de)需求將(jiang)比當前呈現(xian)上百倍的(de)增長。
也正因此,最后企業如何根據業務場景和計算任務選擇最適合的算力方案,如何提升數據中心的整體能效,都讓算力(li)基礎設施迎來(lai)了全新的挑戰。
不僅如此,公里根據戴爾科技最新的“創新催化劑”研究顯示,35%的受訪企業認為在持續創新的路上缺乏專業人士指導,更有45%的(de)受訪企(qi)(qi)業認為在(zai)(zai)AI時(shi)代下,亟需能夠(gou)幫(bang)助其建(jian)議(yi)、實施、打(da)通(tong)培訓(xun)和(he)擴展AI到數(shu)據中的(de)落地服務,以(yi)提高(gao)效率和(he)運(yun)營。從(cong)這(zhe)個角度來說,行(xing)業企(qi)(qi)業在(zai)(zai)AI部署、數(shu)智(zhi)化(hua)轉型的(de)最(zui)后道路上(shang),其面對(dui)的(de)挑戰和(he)難(nan)題不僅僅在(zai)(zai)于技(ji)術方面的(de)“硬實力”,也有(you)包(bao)含專業的(de)數(shu)字化(hua)人才、經驗豐富的(de)公(gong)里服務部署支持等“軟(ruan)實力”。
正是打通洞察到這種全新的變化,戴爾科技積極推動算力基礎設施產品和解決方案的技術創新,通過打造“AI First端到端全棧AI平臺解決方案”,最大化(hua)幫助(zhu)企業的(de)(de)現代化(hua)數據中心(xin)能(neng)夠釋放AI的(de)(de)全部潛力。
在此基礎上,落地近期戴爾科技還在中國市場正式官宣上市全新的AI加速服務器PowerEdge XE9680,提供8個NVIDIA SXM5 500W GPU與NVLink完全互連。這是行業一款專為需要高性能以及應對新興復雜AI工作負載而構建的服務器系統,具(ju)有高(gao)性能、洞(dong)察驅動和智能化等特點,最后真正為AI時代(dai)大模型訓練(lian)和推理構建出了穩(wen)定高(gao)效的(de)基礎設施“算力底座(zuo)”。
從而,多kmdell科技產業還保證例如AI動態數據平臺站服務的布署安全保障與藍色節電達成,產生一方面為一些國內 商家的數智化企業戰略轉型保證了堅固信得過的技藝維持,認為也會快速地接通AI趴地服務行業的“最后的一多km”,能說其商業價值關鍵性而意義重大。AI First全棧解決方案就緒
根據IDC《2024 AIGC應用層十大趨勢白皮書》的數據顯示,隨著AIGC技術的發展,智能化應用將呈現爆發式增長,并預測到2024年全球將涌現出超過5億個新應用,這相當于(yu)過去40年間出現的應用數總和,可(ke)以(yi)說無(wu)論是企業(ye)還是產業(ye)的智(zhi)能化規模化創(chuang)新,其本(ben)質就是AI應用的擴(kuo)張,而背(bei)后則是需(xu)要(yao)AI算力和AI基礎設施提(ti)供關鍵技術支撐。
對此,戴爾科技集團信息基礎架構解決方案事業部AI企業技術架構師、全球CTO大使吳躍表示,一直以來戴爾科技就秉承“AI First”戰略,從“AI賦能戴爾產品、戴爾產品組合賦能AI、用AI優化企業運營、構建開放的AI生態”四個維度,幫助各種規模的企業加(jia)速AI創新的方法,從而不斷(duan)發現創造商業機會,保持競爭優勢。
其中,針對AI優化的基礎架構方面,戴爾科技圍繞“算、網、存、管”提供整體參考架構,打造并全面布局(ju)了“端(duan)到端(duan)全棧AI平臺(tai)(tai)解決方(fang)案(an)”,最終為企業用戶構建高效能的AI平臺(tai)(tai),具體而(er)言(yan):
01 “算”
在“算”方面,戴爾科技可提供多元化的AI加速計算選型支持,特別是戴爾新一代PowerEdge,先后推出了多款專門針對GPU計算設計和優化的專業(ye)服務(wu)器(qi),可為(wei)企(qi)業(ye)提供GPU分布式訓(xun)練解(jie)(jie)決(jue)(jue)方案(an)、GPU池化(hua)解(jie)(jie)決(jue)(jue)方案(an)以及(ji)邊緣AI計算解(jie)(jie)決(jue)(jue)方案(an)等,支持企(qi)業(ye)面向AI的端(duan)到端(duan)訓(xun)練、微調、推理以及(ji)面向傳統AI(如(ru)機器(qi)視覺(jue)、語音識別)的模(mo)型訓(xun)練及(ji)推理場景。
02 “網”
在“網”方面,隨著數據量的增加,現代化數據中心需要更高的數據吞吐量和網絡帶寬來處理數據的傳輸和交換,為此戴爾科技也提供端到端400GbE AI計算網絡解決方案,幫(bang)助企業用戶打造(zao)新一代網絡基礎(chu)架構,為其加速(su)AI轉型提供支撐。
03 “存”
在“存”方面,戴爾科技推出了專為AI打造的新一代PowerScale全閃存節點,這是全球首個率先通過NVIDIA SuperPOD驗證的AI以太網存儲平臺,借助這個(ge)全新(xin)的平臺(tai),企業可(ke)以加(jia)快創新(xin)速(su)度,以更高的靈活性和安全性部署(shu)AI應用(yong),同時利(li)用(yong)高速(su)的NVIDIA Spectrum以太網技術加(jia)速(su)數(shu)據訪問并借助智能(neng)橫(heng)向擴展實(shi)現性能(neng)最大(da)化。
04 “管”
最后,在“管”方面,戴爾科技也提供AI智算平臺軟件解決方案,為企業(ye)提供AI框架與系統(tong)管理軟件(jian)以及專業(ye)服務,更好地加速(su)AI工程化(hua)、場景化(hua)落地,簡化(hua)AI基礎設施平臺的管理與資源調配。
不難看出,在全社會走向智能化的大趨勢下,AI應用領域的多樣化,以及市場規模的不斷擴大,已對AI算力和AI基礎構架產生了巨大需求,而戴爾科技圍繞“算、網、存、管”的需求,打造“端到端全棧AI平臺解決方案”可謂“正當其時”,不僅可以加速AI在千行萬業中的落地,也能進一步推動各企業乃至整個行業的數智化變革進程。
AI加速服務器“煥新上市”
眾所周知,在AI的1.0時代,市場上的AI基礎設施主要是采用垂直一體式的方案,針對性地滿足高性能計算、人工智能、大數據計算等不同的應用負載的需求,其通用性和兼容性比較低;而在AI的2.0時代,除了需要滿足高性能、安全及可管理性之外,也出現了多元異構加速融合的趨勢,即將不同架構的芯片平臺、不同的算法模型以及數據集最大化融合,由此(ci)才能最大化的讓(rang)AI基(ji)礎(chu)設施算(suan)力效(xiao)率發揮到極致。
基于此,戴爾科技近期也在中國市場官宣上市面向AI 2.0時代的全新AI計算平臺PowerEdge XE9680,這(zhe)是一款8路GPU服務器,能夠為包括AI、深度學習、訓(xun)練和推(tui)理等工(gong)作負載(zai)提(ti)供極致的(de)性能。
據戴爾科技集團大中華區服務器解決方案產品高級經理秦建豐介(jie)紹,PowerEdge XE9680具有四大(da)獨(du)特優勢,具體(ti)而言:
?首先,在高性能方面,PowerEdge XE9680服務器主要面向極致AI計算性能需求場景設計。在國內和香港市場,在XE9680 6U的空間內搭載了8塊NVIDIA超高速GPU,同時還通過NVLink實現了互聯,其GPU與高速網卡實現了1:1配比。
事實上,此前在業內權威的MLPerf Inference V3.1推理基準測試結果中,PowerEdge XE9680服務器就在20個數據中心項目賽道中,取得了7個項目的第一名,在所有參評GPU服務器產品中綜合成績最佳。
?其次,在優化設計方面,PowerEdge XE9680服務器也針對GPU供電和散熱進行了單獨的優化,其基于6U風冷設計機箱打造,并提供了包括多矢量散熱技術,動態調節冷卻風強度等全新功能。
并且,PowerEdge XE9680實現了GPU與CPU模組“統一供電”,同時還對電源進行優化、增強設計,滿足實際使用中峰值功率瞬時140%~170%的(de)需(xu)求。此外(wai)其(qi)高速網卡槽位(wei)布置于前(qian)面板,也有效強化了服務器的(de)散熱性能。
?第三,在多元異構加速方面,PowerEdge XE9680服務器支持多元異構加速能力,特別是本次戴爾科技和NVIDIA深度合作,打造了“PowerEdge XE9680 + NVIDIA GPU”的方案,就全面滿足了企業AI訓練、微調、推理等不同的應用需求。
此外戴爾科技也基于NVIDIA全棧AI解決方案,包括GPU、DPU和NVIDIA AI Enterprise軟件套件等,進一步滿足企業的AI應用需求。數據也顯示,與上一代非加速服務器相比,通過NVIDIA加速的PowerEdge服務器在大型語言模型上的推理能效提高了300倍。
?最后,在安全及可管理性方面,PowerEdge XE9680服務器也基于“零信任”原則設計,具(ju)備更(geng)強的安(an)全性和抗風險(xian)能(neng)力,并在管理方面(mian),其內置(zhi)的iDRAC也可以動態(tai)監(jian)控GPU的運行狀態(tai),提供碳(tan)足跡追蹤報(bao)告等。
PowerEdge XE9680服務保障培訓器的主要使用3d場景比如AI模式化的預練、AI模式化的稍微調一下、比較大的產值AI模式化的偵探邏輯,還有因為單控制精度(FP32)GPU加快和提升科學實驗算起等;而而對于中低端的練、偵探邏輯還有任何混合式事情載荷,戴爾電腦自動化也提高能否運載GPU的服務保障培訓器,如PowerEdge R760xa、R760、R660、R7625、R6625等,也要考慮不一制造業企業用戶數對AI使用科技創新的各種需求。打通AI落地“最后一公里”
《系統論》認為:系統是由一些相互關聯、相互作用、相互影響的組織部分構成并具有某些功能的整體。從系統的角度來看,如果把系統分解為部分,單獨研究一個部分,就算把每個部分都研究清楚了,也回答不了系統整體性問題。
事實上,《系統論》的概念很好的表達了當前AI發展邏輯:整個AI的發展乃是一個完整的系統和生態,它的每一個組成部分都應該協同發展,單獨某(mou)一項技術的(de)突飛猛(meng)進,并(bing)不能推動AI的(de)落(luo)地與普及。
在戴爾科技集團數據中心業務部人工智能資深架構師龔小愿看來,對于(yu)今天的(de)企(qi)業用戶(hu)而(er)言,AI時代(dai)的(de)到來,給數據中心安全高效運行的(de)基AI礎設施和冷卻(que)系統都帶來更(geng)大的(de)壓(ya)力。
以“PowerEdge XE9680 6U 3+3 8400W”對比“PowerEdge R760*3 6U 1+1 5400W”來看,其功耗提高56%+,同時重量也提高22%+,這也意味著在整個AI基礎設施的部署過程中,無論是功耗、散熱量、制冷量需求、重量乃至“每U購買成本”都會顯著增加,因此如何將綠色節能和降本增效統籌并舉,是企(qi)業在部(bu)署AI基礎(chu)設施中務必要關注的(de)話題。
為此,戴爾科技也專門打造了“PowerEdge XE9680+Datacenter交付”的創新服務方案,提(ti)供包括Dell ProDeploy/ProDeploy Plus專業(ye)實施服務以 及(ji)Dell Rack Integration機柜集成服務,為企業(ye)部署(shu)AI基礎設施提(ti)供“保駕護航(hang)”。
?在專業實施服務方面,戴爾科技可向企業用戶提供實用的硬件和軟件選擇,并通過多種交付選項來滿足不同預算和運營模式需求,可滿足從核心到云再到邊緣的各種業務需(xu)求和預(yu)算(suan)。
研究數據顯示,使用Dell ProDeploy Plus服務,其部署規劃時間可縮短67%,能夠幫助企業節省大量的預部署時間并節省總體時間,同時部署解決方案的速度比管理員快三倍。
?在機柜集成服務方面,PowerEdge XE9680也提供“交鑰匙”的機柜集成服務,其優勢不僅在于可實現“即插即用,提升體驗”,同時機柜集成空間也優于傳統的功能型的數據中心,每周平均能夠集成25臺機柜,并能根據企業客戶需求隨時擴大產能。
關鍵的是,采用這種機柜集成服務,也能避免不同的現場施工團隊采用不一致的施工、配置及質量標準,由(you)此大幅度提升PowerEdge XE9680部(bu)署安(an)裝效率,并有(you)效降低“每(mei)U購(gou)買成本”。
結 語
在AI新時代,戴爾科技提供的“端到端全棧AI平臺解決方案”如同一艘“航空母艦”,不僅能夠幫助企業構筑健壯的AI基礎設施,同時也能夠借助“PowerEdge XE9680+Datacenter交付”等創新方式,突破硬件、軟件、算力、算法和數據的局限,加快企業(ye)AI基礎設施(shi)的安裝和部(bu)署,真正打通行業(ye)AI落地的“最(zui)后一公里”,讓更多的企業(ye)可以借助AI激發新質生產力,最(zui)終推動中(zhong)國數(shu)字經濟(ji)高質量發展。
本文作者專屬于原汁原味內容，如果男體藝術，請附上來原：打入AI正式出臺餐飲行業“最終一公里長”//news.zol.com.cn/903/9033521.html.