如果說有什么能夠代表中國的科技水平，在技術(shù)上真正處于全球領(lǐng)先？那就是在公平的環(huán)境下，在與世界級的科技巨頭進行的直接對話中，贏下最終的勝利。
在4月22日，最新的AI基準(zhǔn)評測MLPerf競賽中，浪潮的兩款核心產(chǎn)品跑出了“中國速度”，在全部有效41個項目中，浪潮獲得18項性能第一，斬獲幾近半數(shù)冠軍。這也創(chuàng)造了中國科技公司，在MLPerf測試中的最佳戰(zhàn)績。
兩條賽道綜合能力的勝利
也許有些人對MLPerf測試還稍顯陌生，但我們都知道大名鼎鼎的大衛(wèi)·帕特森（DavidPatterson），作為著名的RISC處理器技術(shù)奠基人，它不僅是美國兩院院士，也是2017年的圖靈獎得主。
正是大衛(wèi)·帕特森在2018年，發(fā)起了AI計算基準(zhǔn)評測組織MLPerf，并迅速成為業(yè)界最權(quán)威的測試ML（Machine Learning）硬件、軟件及服務(wù)的訓(xùn)練和推理性能的公開基準(zhǔn)。它囊括了AI行業(yè)中的70多個知名企業(yè)和機構(gòu)，包括了英特爾、英偉達、Google、亞馬遜、阿里巴巴和百度、微軟，以及斯坦福大學(xué)等9所大學(xué)。
MLPerf自創(chuàng)辦以來，一直代表了AI的發(fā)展和演進節(jié)奏，它包括用于測試推理和訓(xùn)練的程序、數(shù)據(jù)集以及像精確度目標(biāo)和超參數(shù)值一些重要的細節(jié)，是當(dāng)今權(quán)威性最大、影響力最廣的國際AI性能基準(zhǔn)測試，地位相當(dāng)于全球AI領(lǐng)域的“奧運會”。
據(jù)了解，最新的一期性能評測共有17家廠商參與，NVIDIA、Intel、高通、阿里巴巴、浪潮、戴爾、HPE等全球AI領(lǐng)先公司悉數(shù)在列。基于最新MLPerf Inference V1.0基準(zhǔn)，涵蓋了圖像分類、目標(biāo)檢測、醫(yī)療圖像分割、自然語言處理、語音轉(zhuǎn)文字和推薦系統(tǒng)6類AI應(yīng)用場景，分為數(shù)據(jù)中心和邊緣兩類處理場景，每類場景都包含固定任務(wù)(Closed)和開放優(yōu)化(Open)兩類性能競賽。
兩個場景，也像是兩條賽道。浪潮在總成績上奪魁，依靠的是綜合能力的表現(xiàn)。
Mlperf成績總覽浪潮打榜成績
首先，在數(shù)據(jù)中心賽道全部21項基準(zhǔn)測試中，浪潮獲得11項第一、，戴爾獲得3項第一， Supermicro獲得3項第一，阿里獲得2項第一，Intel獲得2項第一。
其次，在邊緣賽道21項基準(zhǔn)測試中，NVIDIA獲得10項第一，浪潮獲得7項第一，阿里獲得2項第一，Mobilint獲得1項第一。
最終在所有42項測試中，浪潮以18項第一，位列所有參賽廠商之首。
三處細節(jié)，解讀MLPerf奪冠含金量
全球MLPerf測試的奪冠，其實背后有很多細節(jié)值得深入思考。
首先，MLPerf測試的門檻是非常高的，并不是所有的廠商都有能力參與，參與者幾乎都是全球頂級的AI玩家。要在不同的系統(tǒng)（包括硬件和框架）的組合下部署這么多個Benchmark的難度也是非常之大。例如在邊緣場景開放優(yōu)化場景的SSD-smallsingle-stream賽道，就沒有廠商提交成績，這也從一個側(cè)面證明了MLPerf測試的高門檻。
其次，MLPerf測試的目標(biāo)，遠不止是芯片硬件本身，而是一個完整的軟硬件系統(tǒng)的綜合能力。隨著系統(tǒng)的規(guī)模越來越大，測試的重點也從單芯片性能到集群的性能。能夠跑出更好地成績，本身就是綜合實力的體現(xiàn)。
第三，對于很多參與廠家而言，每一期的MLPerf測試，都是一次挑戰(zhàn)自我極限的機會。以衛(wèi)冕“性能王”的浪潮AI服務(wù)器NF5488A5為例，它將2020年MLPerf DLRM的最高推理性能提升了23.4%，同比2019年MLPerf Resnet50的單機最高推理性能提升326%。
作為業(yè)界率先實現(xiàn)500W 80GB A100 GPU液冷散熱的超強AI服務(wù)器，浪潮NF5488A5在系統(tǒng)拓撲上采用了超低延遲設(shè)計，最大限度提升處理器到AI芯片間的通信性能，并通過深度優(yōu)化系統(tǒng)結(jié)構(gòu)設(shè)計，確保設(shè)備可在高溫、高負載環(huán)境下穩(wěn)定運行，AI計算效能顯著提升；一舉拿下邊緣固定任務(wù)（Closed）7項性能第一的浪潮NE5260M5邊緣服務(wù)器，則通過極致優(yōu)化的信號傳輸，結(jié)構(gòu)散熱，供電等設(shè)計，完美兼容高性能CPU和多種AI加速卡。
新的高性能里程碑，也是浪潮持續(xù)投入技術(shù)創(chuàng)新，并不斷踐行的結(jié)果。
一個智算布局，一條王者之路
在剛剛閉幕的浪潮IPF上，為了支撐多元算力的融合，浪潮推出了包括AI加速器、AI服務(wù)器、智算操作系統(tǒng)元腦OS、智能網(wǎng)卡和邊緣計算微服務(wù)器等全面的智算產(chǎn)品布局。
很明顯，從云到邊緣的智算能力需求，是浪潮走出多元算力布局的關(guān)鍵。
這也與MLPerf測試的“主賽道”設(shè)置遙相呼應(yīng)，在數(shù)據(jù)中心固定任務(wù)“主賽道”中，共有13家廠商提交了584項競賽成績，而在邊緣固定任務(wù)重要賽道中，也有11家廠商提交了326項競賽成績，顯示出廠商對邊緣與AI融合的關(guān)注度日益提升。
浪潮AI服務(wù)器的出色表現(xiàn)，也得益于浪潮在AI計算系統(tǒng)創(chuàng)新上卓越的系統(tǒng)設(shè)計能力和全棧優(yōu)化能力。在硬件層面，通過對CPU、GPU硬件性能的精細校準(zhǔn)和全面優(yōu)化，使CPU性能、GPU性能、CPU與GPU之間的數(shù)據(jù)通路均處于最優(yōu)狀態(tài)；在軟件層面，通過對TensorRT的深度優(yōu)化，結(jié)合GPU硬件拓撲對多GPU的輪詢調(diào)度優(yōu)化使單卡至多卡性能達到了近似線性擴展。
很明顯，這種綜合能力的表現(xiàn)，充分驗證了浪潮信息總裁彭震所提出的，“用創(chuàng)新的體系結(jié)構(gòu)，實現(xiàn)多元算力的高效聚合和按需定義”的理解。通過異構(gòu)資源池化實現(xiàn)多元高效能，同時通過軟件定義實現(xiàn)應(yīng)用智能感知和資源隨需組合，讓底層資源隨上層應(yīng)用按需定義。
同樣也是基于產(chǎn)品創(chuàng)新能力的不斷豐厚，浪潮如今已成為全球領(lǐng)先的AI計算廠商，最新的全球人工智能服務(wù)器的市場占有率，浪潮以16.4%，排名全球第一。
我們知道，隨著應(yīng)用場景的不斷成熟，人工智能也正逐漸滲透到各行各業(yè)，產(chǎn)業(yè)AI化將迎來爆發(fā)增長。這意味著，未來所有行業(yè)的算力需求都將是AI算力，誰掌握了最強大AI算力，就是掌握了整個計算產(chǎn)業(yè)的未來。已在AI算力搶占了技術(shù)制高點的浪潮，正在通過這條創(chuàng)新之路，走上屬于自己的王者之路。
