煉丹速度×7！你的Mac電腦也能在PyTorch訓練中用GPU加速了
網友：現在128GB的Mac Studio可太香了
豐色 發自 凹非寺
量子位 | 公眾號 QbitAI
一直以來，Pytorch在Mac上僅支持使用CPU進行訓練。
就在剛剛，Pytorch官方宣布，其最新版v1.12可以支持GPU加速了。
只要是搭載了M1系列芯片的Mac都行。
這也就意味著在Mac本機用Pytorch“煉丹”會更方便了！
訓練速度可提升約7倍
此功能由Pytorch與Apple的Metal工程團隊合作推出。
它使用Apple的Metal Performance Shaders(MPS)?作為PyTorch的后端來啟用GPU加速訓練。
為了優化計算性能，MPS還針對Metal GPU系列的獨特特性對每個內核進行了微調。
Metal是一個類似OpenGL的框架，只不過OpenGL適用于各平臺的移動端GPU渲染和計算，Metal專用于iOS/MacOS平臺，不過也兼顧了性能和易用性。
MPS就是一套基于Metal框架的庫，直接調用即可使用GPU的高性能進行圖形處理、構建卷積神經網絡等工作。
蘋果官方在搭載了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上進行了測試。
（這陣容差不多能算是豪華配置了）。
他們分別訓練了batch size為128的ResNet50、batch size為64的HuggingFace BERT，以及batch size=64的VGG16。
從下圖中我們可以發現，相比使用CPU加速，使用GPU可將模型訓練速度提高約7倍，評估（evaluation）速度則最高能提約20倍。
看到這兒，有網友開始好奇它與搭載了Nvidia GPU的laptop相比性能如何。
有人表示，雖說目前M1的原始計算性能比不上英偉達的產品，但功耗方面還不錯。未來蘋果很有可能慢慢追上性能。
總的來說，Mac Studio現在看起來實在太香了。
他進一步解釋道：
“畢竟它是你花4800美元就能買到的最便宜、包含128GB GPU內存的機器?，F在有了基于GPU加速的PyTorch支持，完全可以用來訓練大模型、配置大的batch size。
對于我所做的那種DL工作，數據加載比實際的原始計算能力更容易成為瓶頸?！?/p>
你心動了嗎？
現在就試試？
只需保證你的macOS操作系統在12.3版本及以上，且安裝了arm64原生Python，然后去官網下載最新的Pytorch預覽版就可以了。
地址：
https://pytorch.org/blog/introducing-accelerated-pytorch-training-on-mac/
- 北大開源最強aiXcoder-7B代碼大模型！聚焦真實開發場景，專為企業私有部署設計2024-04-09
- 剛剛，圖靈獎揭曉！史上首位數學和計算機最高獎“雙料王”出現了2024-04-10
- 8.3K Stars!《多模態大語言模型綜述》重大升級2024-04-10
- 谷歌最強大模型免費開放了！長音頻理解功能獨一份，100萬上下文敞開用2024-04-10
相關閱讀
