正在閱讀:細數浪潮推出的那些極致設計的AI伺服器細數浪潮推出的那些極致設計的AI伺服器

2020-10-16 18:15 出處:其他 作者:佚名 責任編輯:houxianyong

浪潮是全球領先的AI計算力專業廠商,擁有業界最豐富的AI伺服器產品陣列,致力於透過創新設計,為用戶提供適用於不同領域、不同場景的領先計算設備,以更好地應對目前海量數據爆發與複雜模型所帶來的巨大的計算挑戰,助推實現AI化轉型。據國際咨詢機構IDC數據,浪潮AI伺服器連續多年在中國的市場份額超過50%。下面我們就一起回顧浪潮推出的極致設計的AI伺服器產品。

最快AI訓練伺服器NF5488A5

2020年,浪潮全新發佈自研的新一代AI伺服器NF5488A5,提供極致的AI性能和超高速帶寬,支援圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景,幫助AI用戶高效完成AI基礎設施和開發環境的構建,縮短開發周期,顯著提升AI開發和應用效率。這款AI伺服器在最新公佈的MLPerf全球權威AI測試榜單中,僅用時33.37分鐘,就在包含128萬張圖片的ImageNet數據集上完成Resnet50模型的訓練,相當於每秒訓練23000多張圖片,單機計算性能排名第一。

NF5488A5單機訓練性能可達5 PetaOPS,相比上一代伺服器計算性能提升234%。兩年前Facebook的科學家用32台GPU伺服器、256塊GPU花了1個小時完成了ImageNet上的Resnet50訓練,而現在僅需一台NF5488A5,即可在33分鐘完成同樣的訓練,單台設備訓練效率提升近60倍。同時,浪潮優化了NF5488A5的拓撲結構,採用NUMA綁定策略,可實現CPU與最近GPU的指定通信,大幅提升CPU與GPU之間的數據傳輸效率,實現更低的數據傳輸延遲和更高的帶寬,滿足各種AI負載高效數據通信需求。

1.png

全球首款在 2U 空間內高速互聯集成 8 顆最高性能 GPU 加速器的伺服器AGX-2

2017年,浪潮在GTC大會期間發佈了加速人工智能計算的超高密度伺服器AGX-2,它將是全球首款在2U空間內高速互聯集成8顆最高性能GPU加速器的伺服器,全面加速人工智能和科學工程計算等領域的研究應用效率。

AGX-2在2U空間內支援部署8塊NVLink或PCI-E 接口的NVIDIA Tesla P100 GPU,並在業界率先支援NVLink 2.0和最新發佈的NVIDIA Tesla V100, GPU間互聯帶寬高達150GB/s。AGX-2具備良好的I/O擴展能力,提供8塊NVMe/SAS/SATA熱插拔硬碟,可支援最多4塊100Gbps的EDR InfiniBand接口卡的高速集群互聯;AGX-2不僅支援通常的風冷散熱方式,還可支援片上水冷以提供更高的計算能效比。

2.png

最強 AI 超級伺服器AGX-5

2018年,在2018人工智能計算大會AICC上,浪潮發佈了AI計算性能高達每秒2千萬億次的AI超級伺服器AGX-5,這是全球最強大的AI計算主機之一。

浪潮創新研發設計的AI伺服器AGX-5,可在單機內支援16顆高速NVSwitch無阻塞互聯的Tesla V100 Tensor Core GPUs和新一代GPU加速器,提供2 PFlops的強大單機AI計算性能,與之前同類GPU伺服器相比,AGX-5可支援4倍超大規模深度神經網路模型且訓練速度提高10倍。AGX-5在計算性能、晶片互聯、數據吞吐等多方面實現了極大提升,由此帶來AI計算能力的革命性的進步,為全球致力於領先AI科技的商業公司、科研創新機構提供前所未見的AI創新加速體驗。

3.png

最強Transformer 訓練伺服器NF5488M5

2019年,浪潮在2019 GPU技術大會(GTC2019)上發佈AI伺服器NF5488M5,在業界首次實現了4U空間內集成8顆透過高速NVSwitch無阻塞全互聯的最新一代NVIDIA Tesla V100 Tensor Core 32GB GPUs,高擴展、高性能、高能效,可靈活部署,AI計算性能可達每秒一千萬億次,適用於圖像視頻、語音識別、金融分析、智能客服等典型AI應用場景。

NF5488M5還配置2顆28核的頂配CPU,配合3UPI連接設計,提供頂級通用計算性能。4U尺寸、6KW供電設計使其適用於更廣泛的數據中心部署環境,特別適合於功耗受限的機櫃上架場景。同時使用更加靈活的集群部署方案,能實現從硬體到應用的集成部署。

Transformer是主流 NLP模型,參數規模可達數億,對計算、通信的要求非常高。性能數據顯示,相比同類伺服器,NF5488M5大幅提升了Transformer的訓練性能,GLUE 基準訓練至 80.4%的時間相比同類產品大幅減少 67%。NF5488M5進一步豐富和優化用戶的AI基礎結構選擇,幫助用戶縮短AI模型開發周期,加速AI技術創新與應用落地。

4.png

 
一文讀懂 投影機和雷射電視區別究竟在哪?
印表機成為家庭的剛需 成本問題該如何兼顧? 周末宅家已成常態?用投影看電影是個不錯的選擇 企業最大的安全困擾 勒索軟體還未消滅的五大原因 知名廠商遭勒索病毒攻擊 張口竟索要數千萬美金

為您推薦

加載更多
加載更多
加載更多
加載更多
加載更多
加載更多
加載更多
加載更多
加載更多
最新資訊離線隨時看 聊天吐槽贏獎品