新版PyTorch發布！新增TorchScript API，擴展ONNX導出……4大功能更新值得關注
更方便更易用了
銅靈 發自 凹非寺
量子位 出品 | 公眾號 QbitAI
今天，PyTorch 1.2.0版正式發布。
官方表示，和1.1版本相比，新版本在使用體驗上又往前邁進了一大步。主要新增/改動的功能包括：
- 完善TorchScript環境，提供了新的將模型編譯為TorchScrip的API
- 擴展ONNX模型的導出的支持
- 增強對Transformer架構的模塊級支持
- 此外，TensorBoard現在也能快速開始使用了
對于這一系列的更新，Reddit網友開心得不得了。
有網友評價，Transformer層非常棒，此前需要用自己的自定義圖層，現在終于不用去維護它了。
TensorBoard不再是一個實驗性的功能了。RIP，瀏覽器。
總之，1.2.0版本的PyTorch更方便更好用了。一起圍觀下具體更新。
四大更新
TorchScript編譯器
TorchScript編譯器最早是在1.0版本出現的，可以將PyTorch模型轉換為靜態圖表征，可用于Python不可用的受限環境中的優化和執行。
新版本中擴展了TorchScript對PyTorch模型中使用的Python子集的支持，提供了一種新的、更易于使用的API，用于將模型編譯為TorchScript。
此前，TorchScript編譯器將模型逐步轉換為TorchScript，將編譯后的代碼與Python無縫混合。有了新的API，能將nn.Modules 轉換為ScriptModules。
看一下示例用法：
擴展ONNX導出
作為開源的模型交換格式，讓不同的框架以相同格式存儲模型數據并交互，ONNX的出現為開發人員節約了不少時間。
在PyTorch最新版中，開發者進一步擴展了ONNX導出。
主要包括：
- 支持多種Opset，包括在Opset 10中導出dropout、slice、flip和interpolate
- 改進ScriptModule，支持多個Tensor factory和tuples作為輸入和輸出
- 新支持了十幾個額外的PyTorch operator，還能對其進行自定義
- 改進bug~
nn.Transformer模塊
在PyTorch 1.2.0版本中，包含了一個標準的nn.Transformer模塊，這個模塊完全依賴于注意機制來理清輸入和輸出之間的全局依賴關系。其中的各個組件可以獨立使用。
- 例如，nn.TransformerEncoder可以單獨使用，不需要更大nn.Transformer。新API包括：
- nn.Transformer
- nn.TransformerEncoder和nn.TransformerEncoderLayer
- nn.TransformerDecoder和nn.TransformerDecoderLayer
Tensorboard
此外還有一處更新。現在輸入from torch.utils.tensorboard import SummaryWriter即可直接使用了。
只要安裝了TensorBoard，這些實用程序就可以將PyTorch模型和標準記錄到目錄中，用戶可在TensorBoard UI中進行可視化。
更新×3
這次更新的不止PyTorch 1.2，還有torchvision 0.4，torchaudio 0.3和torchtext 0.4。
torchvision 0.4版本，包含了：
可用于讀/寫視頻和音頻文件的IO原語（I/O primitives），支持任意編碼和格式。
一個標準視頻數據集，兼容torch.utils.data.Dataset和torch.utils.data.DataLoader。
基于Kinetics-400數據集構建的預訓練模型，可用于視頻（訓練腳本）的動作分類。
用于訓練你自己視頻模型的參考訓練腳本
torchaudio 0.3主要針對讓機器解釋音波，新版本中圍繞標準化、復數（complex number）、轉換（重新采樣）進行改進，還更新了torchaudio的轉換接口。
torchtext 0.4針對的時NLP研究，可以用于處理基于原始文本的數據。
此次更新的版本中，包含了很多流行監督學習帶“one-command”數據加載的baseline，此外，還更新了如何用新數據集進行文本分類分析的教程。
傳送門
PyTorch介紹：
https://pytorch.org/blog/pytorch-1.2-and-domain-api-release/
GitHub地址：
https://github.com/pytorch/pytorch/releases
— 完 —
誠摯招聘
量子位正在招募編輯/記者，工作地點在北京中關村。期待有才氣、有熱情的同學加入我們！相關細節，請在量子位公眾號(QbitAI)對話界面，回復“招聘”兩個字。
量子位 QbitAI · 頭條號簽約作者
?’?’ ? 追蹤AI技術和產品新動態
- 微軟公布19財年財報：凈利潤增長22%，云計算首超個人計算業務2019-07-19
- 騰訊云推出物聯網邊緣計算平臺，具備五大特點，想攻克物聯網落地難題2019-08-28
- DeepMind醫療業務幾經動蕩，現在團隊并入Google2019-09-20
- 首例基因編輯干細胞治療艾滋病：北大鄧宏魁參與，達最佳治療效果2019-09-14
相關閱讀
Kaldi拜拜！PyTorch語音工具包SpeechBrain要來了，支持多種語音任務，實現最強水準
能用來做語音識別、說話人識別、語音分離，多麥克風信號處理、自我監督和無監督學習、語音增強等
