英偉達發布ChatGPT專用GPU，性能提升10倍，還推出云服務，普通企業也能訓練LLM

Pine 2023-03-22 14:40:32 來源：量子位

Pine 發自 凹非寺

量子位 | 公眾號 QbitAI

“AI的iPhone時刻已至”，英偉達或成最大贏家。

在GTC2023大會上，黃仁勛接連放出大招：

不僅發布了ChatGPT專用GPU，比之前就能實時處理ChatGPT的HGX A100快了10倍；

還公布了其在芯片領域的進展，推出了新的cuLitho軟件庫，使光刻計算速度整體提高了40倍。

從老黃的言語中也能得知，當下各種爆紅的AIGC產品：ChatGPT、Stable Diffusion、DALL-E等都能見到英偉達的身影。

而去年年末至今，ChatGPT爆火，也順勢拉動了英偉達的股價，年初至今就上漲83%。

目前，英偉達的市值為6471億美元。

會上及會后采訪中，老黃的言語之中也是透露著對AI生成內容的褒獎：

AI是用人類語言編程的新型計算機，未來每個人都將是程序員。

話不多說，會上具體都有哪些亮點，一起盤點下～

發布ChatGPT專用GPU

會前，網友們對GTC的猜測都集中在ChatGPT上。

而英偉達，也是毫不吝嗇，不止ChatGPT，AIGC方面直接一把推出了四種針對AI任務的推理平臺：

• L4 Tensor Core GPU
• L40 GPU
• H100 NVL GPU
• Grace Hopper超級芯片

其中，H100 NVL GPU是英偉達這次推出的ChatGPT的專用GPU，它是基于去年已經發布的H100的改進版本：配備雙GPU NVLink，將兩張擁有94GB HBM3顯存的PCIe H100 GPU拼接在一起。

性能的話，老黃形象地做了個對比：

相較于目前唯一可以實時處理ChatGPT的HGX A100，一臺搭載四對H100和雙NVLINK的標準服務器能將速度提升10倍，并且還可以將大語言模型的處理成本降低一個數量級。

期間，老黃還展示了自己親自把首款簽名版DGX交付給OpenAI的畫面。

然后再來說下其他三個推理平臺：

L4是專門針對AI生成視頻設計的一款通用GPU，它提供的視頻性能比CPU高出整整120倍，能效提高了99%。

L40則是用在圖像生成上的GPU，它能對AI生成2D、3D圖像進行優化，相較于英偉達的云推理GPU T4，性能提升了10倍。

Grace Hopper超級芯片用在推薦系統和大型語言模型AI數據庫上，圖推薦模型、向量數據庫和圖神經網絡都可以選擇這款芯片。

更具體一點，通過900GB/s高速芯片對芯片的接口，Grace Hopper超級芯片可連接Grace GPU和Hopper GPU，而Grace和Hopper正是處理大型語言數據集的理想選擇。

到這里，你以為關于ChatGPT的相關產品就沒了？

大NO特NO。

在ChatGPT這塊兒，英偉達還致力于下沉市場，聯合微軟Azure、Google GCP和Oracle OCI三家云廠商合作推出了DGX Cloud。

普通企業也能訓練LLM。

也就是說，想要訓練像ChatGPT的大語言模型，可以直接在網絡上租賃DGX云服務，這樣一來客戶就能將英偉達DGX AI超級計算機實時接入公司。

英偉達提供的DGX服務器，包含8個H100或A100圖形處理器和640GB內存，A100層的價格為每月36999美元。

而直接購買一個實體DGX服務器，就要花費20萬美元，并且微軟當時為了訓練新必應也是斥資數億美元購買了數萬塊A100芯片。

用cuLitho加速芯片創新

ChatGPT等一眾AIGC產品毫無疑問已經成為當前的AI圈的寵兒，不過在英偉達眼中ChatGPT只是一個起點。

GTC大會上，老黃放出了另一枚重磅級“核彈”，把加速計算引入到光刻領域——推出英偉達cuLitho計算光刻庫。

cuLitho計算光刻庫是啥？

一言以蔽之，cuLitho是一個可以加速光刻基礎計算的算法庫，能夠很大程度上提升光刻計算的速度，并且節省能耗。

老黃表示，目前計算光刻每年都需要消耗數百億CPU時間。而運行在GPU上cuLitho，可以將目前光刻技術的性能提升40倍，功耗降低至此前的1/9。

甚至在某種程度上cuLitho還可以為行業2nm工藝奠定基礎。

目前，英偉達已經與臺積電、ASML和Synopsys等芯片廠商達成合作，后續芯片生產中，也會引入cuLitho這項AI技術。

其中，臺積電CEO魏哲家稱贊，cuLitho為臺積電在芯片制造領域部署反向光刻技術和深度學習等光刻解決方案開辟了新的可能性。

老黃也在會上預告，臺積電將在今年6月份的2nm芯片生產中引入cuLitho。

ASML首席執行官Peter Wennink也做出計劃，讓所有的計算光刻軟件產品都支持GPU，同時也表示與英偉達在GPU和cuLitho上的合作會給計算光刻帶來巨大的好處。

Synopsys公司這邊，在cuLitho平臺上運行了Synopsys OPC軟件，性能直接得到了從幾周到幾天的提升。

一些其他亮點

除了上面提到的這些，GTC大會上，英偉達還公布了一些其他合作項目：

比如說生成式AI方面有Adobe、Getty Images和Shutterstock。

醫學方面，英偉達宣布了新的合作伙伴和Medtronic合作，黃仁勛透露，目前正在一起為構建一個醫療方面的AI平臺，涵蓋手術引導和機器人輔助手術。

……

如果還想了解更多關于GTC2023的內容，可以戳下面鏈接查看直播回放。

直播回放：
https://www.youtube.com/watch?v=DiGB5uAYKAg

參考鏈接
[1]https://www.theverge.com/23649329/nvidia-dgx-cloud-microsoft-google-oracle-chatgpt-web-browser
[2]https://nvidianews.nvidia.com/news/nvidia-asml-tsmc-and-synopsys-set-foundation-for-next-generation-chip-manufacturing