人工智能（AI）正無(wú)所不至地滲入人類生活。我們?nèi)諠u習(xí)慣于通過(guò)智能語(yǔ)音助手了解天氣、控制家電；普遍接受了通過(guò)在線語(yǔ)音識(shí)別和翻譯，與來(lái)自世界各地的同事或合作伙伴交流；在工業(yè)應(yīng)用和科研領(lǐng)域，AI更是幫助人類將視野拓展到星辰大海或粒子世界。
這些日趨成熟的AI技術(shù)背后，是無(wú)處不在的AI計(jì)算。智慧時(shí)代已經(jīng)到來(lái)，“計(jì)算力就是生產(chǎn)力”已成共識(shí)。那么，如何準(zhǔn)確直觀地衡量與評(píng)估AI計(jì)算發(fā)展水平？
近日，國(guó)際AI性能基準(zhǔn)評(píng)測(cè)MLPerf™的最新AI推理V2.0榜單，為我們帶來(lái)了解AI計(jì)算水平的“風(fēng)向標(biāo)”。
AI大考
MLPerf™由圖靈獎(jiǎng)得主大衛(wèi)•帕特森聯(lián)合頂尖學(xué)術(shù)機(jī)構(gòu)發(fā)起成立，旨在打造一套測(cè)量和提高機(jī)器學(xué)習(xí)軟硬件性能的通用基準(zhǔn)，為評(píng)估各類AI系統(tǒng)在實(shí)際應(yīng)用中的性能提供權(quán)威有效的數(shù)據(jù)指導(dǎo)。
“說(shuō)白了就是一場(chǎng)‘大考’。”一位參加此次大賽的工程師說(shuō)，“廠家都說(shuō)自己的機(jī)器好,那就來(lái)PK一下，看誰(shuí)在實(shí)際應(yīng)用中更強(qiáng)。”
2020年，非營(yíng)利性機(jī)器學(xué)習(xí)開(kāi)放組織MLCommons（成員包括50余家全球AI領(lǐng)軍企業(yè)及頂尖學(xué)術(shù)機(jī)構(gòu)）基于MLPerf™成立，每年組織AI訓(xùn)練和推理性能測(cè)試各兩次，以便跟進(jìn)迅速變化的計(jì)算需求和計(jì)算性能提升。每一次測(cè)試往往都匯聚英特爾、英偉達(dá)、谷歌、微軟云、浪潮信息、戴爾等數(shù)十家頭部芯片、云服務(wù)和IT基礎(chǔ)設(shè)施廠商同臺(tái)競(jìng)技。
如果把AI訓(xùn)練看作AI的“學(xué)習(xí)過(guò)程”，那么推理就相當(dāng)于AI能“學(xué)以致用”。
MLPerf™的AI訓(xùn)練性能測(cè)試主要考查完成各主流AI模型的訓(xùn)練時(shí)間，完成的速度越快則意味著性能更強(qiáng)；而AI推理主要考查AI系統(tǒng)（使用主流AI模型）完成各類任務(wù)的速度與效率。
相較于代表技術(shù)發(fā)展水平的AI訓(xùn)練，低延遲、高效的AI推理和AI的落地應(yīng)用關(guān)系更加密切——推理需要保留模型在訓(xùn)練中學(xué)到的能力，還能應(yīng)用到前所未見(jiàn)的數(shù)據(jù)上，并根據(jù)真實(shí)世界中的數(shù)據(jù)，迅速提供正確答案。
作為當(dāng)下最權(quán)威的AI性能基準(zhǔn)測(cè)試，MLPerf™全面、公平地考查了各類AI場(chǎng)景下參測(cè)廠商系統(tǒng)和軟件優(yōu)化的整體能力。同時(shí)，因?yàn)槿蝽敿?jí)廠商的積極參與和重視，MLPerf™的每一次測(cè)試結(jié)果，都代表著當(dāng)前最先進(jìn)的AI計(jì)算水平。
“飆”到最快
今年4月結(jié)束的MLPerf™ AI推理性能測(cè)試競(jìng)爭(zhēng)“慘烈”。據(jù)MLPerf™官方統(tǒng)計(jì)，本輪測(cè)試19家參賽者共提交超3900項(xiàng)性能成績(jī)和2200項(xiàng)功耗成績(jī)，分別是上一輪的2倍和6倍。
此次AI推理性能評(píng)測(cè)包含了六大AI任務(wù)，分別是圖像分類、醫(yī)學(xué)影像分割、目標(biāo)物體檢測(cè)、語(yǔ)音識(shí)別、自然語(yǔ)言理解以及智能推薦，它們也是當(dāng)下最主流和通用的AI應(yīng)用場(chǎng)景。針對(duì)這六大任務(wù)，MLPerf™設(shè)置了非常細(xì)致的考查維度（共33項(xiàng)賽道），從而全方位地檢驗(yàn)AI系統(tǒng)在各種應(yīng)用情況下的表現(xiàn)。
比如，其中的圖像分類任務(wù)，即根據(jù)圖像的語(yǔ)義信息，將不同類別的圖像區(qū)分開(kāi)。這是計(jì)算機(jī)視覺(jué)中重要的基本問(wèn)題，也是更高級(jí)的視覺(jué)任務(wù)的基礎(chǔ)。相關(guān)工程師表示，“通俗說(shuō)，它有個(gè)數(shù)百萬(wàn)張圖片的數(shù)據(jù)集，比賽時(shí)看誰(shuí)能在最短的時(shí)間內(nèi)，把這個(gè)數(shù)據(jù)集里的圖片全部識(shí)別出來(lái)，并正確分類。”
AI圖像分類在日常生活中有著廣泛應(yīng)用，如智能視頻分析、交通場(chǎng)景識(shí)別、互聯(lián)網(wǎng)領(lǐng)域基于圖像內(nèi)容的檢索以及相冊(cè)自動(dòng)分類等。此次性能評(píng)測(cè)中，浪潮AI服務(wù)器創(chuàng)造了每秒對(duì)44.99萬(wàn)張圖片進(jìn)行分類的嶄新世界紀(jì)錄。
性能紀(jì)錄不止于此。在此次MLPerf™測(cè)試的33項(xiàng)賽道中，浪潮AI服務(wù)器以27項(xiàng)冠軍位列榜首：攬獲數(shù)據(jù)中心內(nèi)的全部16項(xiàng)冠軍，并在邊緣端17個(gè)單項(xiàng)中取得了11個(gè)冠軍。
相比2021年的MLPerf™推理測(cè)試，浪潮AI服務(wù)器在半年時(shí)間內(nèi)將圖像分類、語(yǔ)音識(shí)別和自然語(yǔ)言理解任務(wù)的推理性能分別提升31.5%、28.5%及21.3%。這意味著，AI系統(tǒng)在自動(dòng)駕駛、智能問(wèn)答和智慧醫(yī)療等場(chǎng)景中，能更高效地完成各類任務(wù)。
“MLPerf™就像提供給大家一個(gè)飆車的賽場(chǎng)，用各種辦法，把性能飆到最高、飆到最快。”浪潮信息副總裁、AI&HPC產(chǎn)品線總經(jīng)理劉軍說(shuō)，“浪潮AI服務(wù)器正是賽道中最快的賽車。”
驅(qū)動(dòng)應(yīng)用發(fā)展
中國(guó)工程院院士王恩東認(rèn)為，隨著AI的規(guī)模化發(fā)展，算力已經(jīng)成為決定性力量，智慧計(jì)算已成為智慧時(shí)代的核心生產(chǎn)力。AI從五六年前的“黑科技”，變成今天的“熱科技”，離不開(kāi)算力支撐能力的巨大飛躍。
秉持“促進(jìn)機(jī)器學(xué)習(xí)創(chuàng)新，以此惠及普羅大眾”的理念，MLPerf™大賽不僅是頂尖廠商、學(xué)術(shù)機(jī)構(gòu)和創(chuàng)新企業(yè)比拼AI算力的專業(yè)“考場(chǎng)”，更是協(xié)同推進(jìn)智算力創(chuàng)新和突破的陣地。
“參加MLPerf™讓我們獲得了豐富的實(shí)踐經(jīng)驗(yàn)。”浪潮信息AI&HPC應(yīng)用軟件部總經(jīng)理吳韶華說(shuō)，“隨后，我們把這種經(jīng)驗(yàn)應(yīng)用到AI服務(wù)器設(shè)計(jì)上打磨產(chǎn)品，讓AI算力越來(lái)越強(qiáng)。”
數(shù)字新基建、東數(shù)西算正推動(dòng)智算融入千行百業(yè)，諸多應(yīng)用場(chǎng)景迫切期待AI算力提升。
作為新一輪科技革命和產(chǎn)業(yè)變革的重要方法和工具，智慧計(jì)算將在推動(dòng)數(shù)實(shí)相融、催生新產(chǎn)業(yè)新業(yè)態(tài)方面發(fā)揮越來(lái)越大的作用。智慧計(jì)算不僅助力我們“飆車”國(guó)際頂尖賽道，也成為驅(qū)動(dòng)未來(lái)發(fā)展的重要力量。■