大到中國天眼、小到語音助手，背后都有智算的力量

曉查 2021-04-19 13:12:43 來源：量子位

曉查 發(fā)自 蘇州
量子位 編輯 | 公眾號 QbitAI

AI算力，在服務(wù)器中重要性越來越高了。

今年3月~4月，AMD、英特爾、英偉達三家芯片巨頭，各自發(fā)布了服務(wù)器CPU，無一不在強調(diào)AI運算與生態(tài)。

連制造GPU的英偉達為了提高服務(wù)器的AI算力，都親自下場制造CPU，希望打破傳統(tǒng)服務(wù)器的AI算力瓶頸。

英偉達聲稱，其CPU在與GPU協(xié)作AI運算上，相比x86有10倍的性能提升。

尤其引人關(guān)注的是，采用英偉達CPU的首臺AI超級計算機ALPS，將于2023年交付瑞士國家超算中心。

屆時，這臺專為AI而生的超算算力將達到20EFLOPS，把目前全球最快超算“富岳”的AI算力（1.4EFLOPS）遠遠拋在身后。

其實，何止最尖端的超算，AI已經(jīng)悄悄重塑了服務(wù)器行業(yè)。

據(jù)浪潮透露，2020年全球交付的AI芯片算力已經(jīng)超過了通用計算芯片，預(yù)計到2025年，AI加速芯片將占到全球總算力的80%。

AI芯片和服務(wù)器之所以快速爆發(fā)，和市場的需求是分不開的。

隨著計算機視覺技術(shù)日漸成熟，產(chǎn)業(yè)界把目光瞄準了下一塊“難啃的骨頭”——自然語言處理（NLP）。

NLP對算力的需求到底有多恐怖？

2020年OpenAI公布的超大自然預(yù)言模型GPT-3，擁有1750億參數(shù)，訓(xùn)練所需算力相當(dāng)于一塊GPU運算355年，今年谷歌發(fā)布的Switch Transformer參數(shù)量超過萬億。

AI對算力的需求正以每年一個數(shù)量級的速度增長。

而英偉達的超算ALPS訓(xùn)練一個GPT-3僅需2天時間，如此驚人的AI運算速度無疑給NLP等技術(shù)的未來帶來了無限遐想。

那么，在國內(nèi)，我們的AI超算中心發(fā)展到哪一步了呢？浪潮在剛剛舉辦的IPF上交出了多份答卷。

原來，上至探索宇宙的中國天眼，下至手機語音助手，背后都有浪潮AI服務(wù)器的身影。

最快國產(chǎn)AI服務(wù)器登場

在2021年IPF（浪潮合作伙伴大會）上，浪潮聯(lián)合國產(chǎn)AI芯片廠商寒武紀，共同發(fā)布了中國最強AI服務(wù)器“揚子江”。

“揚子江”AI服務(wù)器搭載了8顆AI加速卡寒武紀思元290，單機輸出AI算力高達4096TOPS。

英偉達ALPS為了打破數(shù)據(jù)傳輸瓶頸，使用NV Link技術(shù)取代PCIe獲得超過10倍以上的通信帶寬，而“揚子江”也使用了寒武紀的MLU-Link多芯高速互聯(lián)技術(shù)，讓AI加速卡之間帶寬達到600GB/s，最高可提供2048TOPS的AI訓(xùn)練性能、4096TOPS的AI推理性能。

“聚是一團火”，浪潮不僅發(fā)布了AI服務(wù)器單品，由國產(chǎn)AI服務(wù)器組成的智算中心也已經(jīng)建成。

這個坐落于南京的智算中心由浪潮和寒武紀聯(lián)合打造，搭載寒武紀最新的思元270和290人工智能芯片。目前，已經(jīng)投入運營的規(guī)模已經(jīng)達到了E級AI算力，即每秒百億億次AI基本運算。

南京智算中心將成為一個AI算力支撐中心，為金融科技、智慧教育、智能制造、智慧交通、智慧醫(yī)療、智慧零售等領(lǐng)域的應(yīng)用創(chuàng)新提供支持。

除了與國產(chǎn)AI芯片合作外，浪潮還與英偉達合作打造了全球最強AI服務(wù)器NF5488，這款服務(wù)器支持8顆英偉達A100，并使用浪潮自研通信技術(shù)實現(xiàn)CPU到GPU單層Switch通信，效率提升1倍。

之所以稱之為最強，是因為NF5488在全球權(quán)威AI基準測試MLPerf中共創(chuàng)造19項性能紀錄，成為創(chuàng)紀錄最多的AI服務(wù)器。

浪潮表示，相比上一代的計算產(chǎn)品，NF5488性能最高可達20倍的提升。

NF5488可應(yīng)用于海量數(shù)據(jù)的預(yù)處理、清洗、訓(xùn)練，由于其巨大的算力，可為用戶縮短一半的開發(fā)周期。

在IPF2021上，浪潮還發(fā)布了AI視頻加速器VPU產(chǎn)品M10A。

VPU即視頻處理單元（Video Processing Unit），可以加速視頻的編碼、解碼、轉(zhuǎn)碼、畫質(zhì)及分辨率轉(zhuǎn)換等各種處理，為行業(yè)視頻應(yīng)用帶來高效能的加速計算。

為何發(fā)布這樣一款產(chǎn)品？浪潮AI&HPC產(chǎn)品線總經(jīng)理劉軍表示，網(wǎng)絡(luò)上90%的流量是視頻，如果用VPU處理可以大大節(jié)約其他硬件計算資源。

搭載浪潮M10A的AI視頻服務(wù)器，單機就能提供1280路全高清AI視頻加速能力，相當(dāng)于300臺通用雙路服務(wù)器，而功耗僅為后者的1%。

此外，浪潮還為AI邊緣計算任務(wù)推出了微服務(wù)器EIS800系列，可提供100TOPS的邊緣AI算力，提供防水防塵的型號，供智慧交通這類戶外惡劣場景使用。

元腦生態(tài)升級2.0

浪潮也不僅僅是一家僅負責(zé)交付硬件的服務(wù)器廠商。

從2019年開始，浪潮提出了“元腦生態(tài)”計劃，打造基于AI硬件的服務(wù)平臺，目的是打破AI技術(shù)與需求之間的隔閡：擁有AI技術(shù)的企業(yè)找不到落地場景，擁有AI需求的企業(yè)不具備技術(shù)能力。

在浪潮的“元腦生態(tài)”概念中，AI技術(shù)企業(yè)是“左手伙伴”，傳統(tǒng)產(chǎn)業(yè)是“右手伙伴”，浪潮則充當(dāng)二者之間的橋梁。

那么，這2年來元腦生態(tài)到底發(fā)展得怎么樣？

據(jù)浪潮透露，元腦生態(tài)的左右手伙伴已經(jīng)發(fā)展到2000多家，生態(tài)伙伴服務(wù)的客戶不乏像西湖大學(xué)這樣的高端研究機構(gòu)。

為了幫助西湖大學(xué)打造全球領(lǐng)先的AI計算平臺，浪潮與榮聯(lián)科技、趨動科技攜手，用頂級的AI算力配置+AI集群優(yōu)化+實施運維能力，交付了組建頂級智算中心的方案。

今年今年元腦生態(tài)升級到2.0，其中最大的變化是一個全新的智算產(chǎn)業(yè)聚合平臺“AI Store”誕生了。

AIStore就是AI產(chǎn)業(yè)的線上“應(yīng)用商店”。

過去兩年間，浪潮為元腦左右手伙伴舉辦了50多場線下招募會。但線下的力量終究是有限的。

AIStore能夠在線上高效完成雙方的需求對接。左手伙伴的AI能力獲得浪潮認可后，就可以在AIStore上發(fā)布產(chǎn)品，而那些傳統(tǒng)企業(yè)右手伙伴，可以在AI Store上“選購”符合需求的AI產(chǎn)品。

AI技術(shù)企業(yè)好比應(yīng)用商店中的“軟件開發(fā)商”，傳統(tǒng)企業(yè)就好比“下載用戶”，如此一來大大提高了溝通效率。

從探索宇宙到語音助手

說到AI，我們常常忽略服務(wù)器廠商在其中的作用。全球最強AI超算ALPS的背后，不僅有全球頭號AI芯片公司英偉達，也有全球第二大服務(wù)器廠商HPE的身影。

任何芯片交付到用戶手中，都需要服務(wù)器廠商對硬件與軟件的打磨，不同廠商芯片的通信協(xié)議各不相同，能兼顧不同硬件就是一項重要能力。

尤其是今年以來，全球GPU芯片供貨緊張，能為用戶提供靈活多變的AI服務(wù)器就顯得尤為重要。

而浪潮在國內(nèi)AI服務(wù)器行業(yè)充當(dāng)著行業(yè)第一的角色，在國內(nèi)已經(jīng)連續(xù)4年市場占有率超過50%。

其中一項重要原因就是浪潮是全球多個AI硬件組成的重要成員，具備提供全棧AI產(chǎn)品的能力。

浪潮的AI服務(wù)器也已經(jīng)滲透到生產(chǎn)、科研、生活的方方面面。

除了前面提到的為西湖大學(xué)提供智算中心，連“中國天眼”FAST背后也有浪潮AI助力。

中國天眼是世界最大的射電望遠鏡，幫助科研人員觀測暗物質(zhì)、測定黑洞質(zhì)量，這樣一臺巨型設(shè)備每秒就能產(chǎn)生38GB的數(shù)據(jù)。

浪潮的AI微模塊數(shù)據(jù)中心為中國天眼服務(wù)器的運行和30PB分布式存儲平臺提供強有力的支撐。

此外，浪潮還與OPPO合作打造智算基礎(chǔ)設(shè)施，支撐著每月交互次數(shù)高達20億次的OPPO小布語音助手。

“計算力就是生產(chǎn)力”，各行各業(yè)正在用浪潮的AI證明這句話，浪潮也在用算力推進AI產(chǎn)業(yè)的前進。