對話高通工程技術SVP：AI研發最關注高能效，云端AI推理芯片已流片成功
乾明 發自 凹非寺
量子位 報道 | 公眾號 QbitAI
高通，移動互聯網時代最成功的公司之一。它對通信技術以及專利的掌控，已經主導整個行業20余年。
一代代旗艦芯片和移動平臺，更是安卓手機廠商核心競爭力和賣點之一。
但隨著AI浪潮洶涌，移動互聯網向移動AI的轉換已成大勢。高通作為移動互聯網領域的大贏家，將如何發力AI，來抓住移動AI時代？
關于高通AI動向，已經有過很多次披露，但都聚焦在業務上。其AI技術研發上，是怎樣的一個格局？高通AI研發，如何驅動高通的移動AI業務？
Rajesh Pankaj，高通工程技術高級副總裁，是為數不多能夠回答這些問題的人，再次來到中國。
Rajesh Pankaj是一名“老高通”，從1997年至今，已經在高通工作了22年。
現在，他也是高通企業研發部門（CR&D）的負責人。而這個部門，正是高通AI研發的核心。
帶著上述的這些問題，我們與他進行了深入交流，試圖尋找高通將要如何繼續主導移動AI時代的答案。
更低功耗，更高能效，高通AI研發的重心所向
在與Rajesh Pankaj的交流中，他提到最多的，就是如何在低功耗環境下讓AI發揮出更高的能效。
他說，這是高通AI研發最關注的領域。
其實不僅僅是高通，在當下這已經成為了業內備受關注的AI研發方向之一。
近年來，各種關于模型壓縮的算法大量出現。谷歌、Facebook、百度也紛紛在自家的AI框架中加入端側推理/部署能力。
Rajesh Pankaj從5G和AI的角度解釋了背后的趨勢。
一方面是AI技術的進一步成熟，相關的研究不再只是關注用AI解決問題，業界和學界開始考慮讓AI進入到終端中，實現更多能力。
另一方面是5G的興起，超低時延的數據傳輸變成了現實，端云協同變得觸手可及。
這也就意味著和之前只依靠終端或者云端相比，邊緣設備上能夠實現更多的AI能力。
雖然相應的條件已經出現，但都處于不斷完善中。不同的公司，都在通過不同的方式角逐未來。
Rajesh Pankaj說，得益于移動設備領域的技術積累，“低功耗環境下，實現高能效的AI，是高通最強的領域。
高通也給出了相應的數據進行了佐證：
利用張量分解、通道簡化等手段壓縮AI模型架構，壓縮量達到3倍，同時準確度僅損失不到1%。
此外還有高精度訓練、低精度推理的方法來實現能效的提升：
高通用量化8位推理模型，實現內存和計算4倍能效提升，可以和FP32實現近乎相同的準確率。
除此之外，高通還在優化編譯器、內存計算AI等方面開展了相應的研究，為AI計算節能加速。
在專訪過程中，Rajesh Pankaj也進一步解釋說，雖然他很屢次提起低功耗運行AI，但這并不是高通AI研發的全部。
他說，從更大的角度來看，高通關注的是與端側設備有關的所有AI，只要能夠對業務帶來幫助，都會投入資源去研發。
這些技術，并不都是處于研發階段，高通也已經將這些技術應用到了移動AI芯片中。
2015年的驍龍820開始，高通的旗艦芯片就已經在全面集成高通自研人工智能引擎AI Engine。
到驍龍855，已經是第四代人工智能引擎AI Engine，突出的點在于異構計算。
核心能力，是讓CPU、GPU、Hexagon不同功能的核心發揮各自所長，而又相互協作，共同實現高效的AI處理。
高通出圈：云端推理芯片已流片成功
雖然在相應的技術研發上，高通聚焦于端側AI。但AI帶來的不僅僅是沖擊，也有機會。在場景上，高通也正在出圈。
最能體現這一動向的，不是高通面向IoT和汽車領域大秀肌肉。而是其4月份發布的一個數據中心AI推理芯片：Cloud AI 100。
同樣，這一芯片主打的也是高能效。
在發布的時候，高通表示，這一芯片能降低終端與數據中心的延遲，提高AI云端效率。與其他商用方案相比，Cloud AI 100每瓦特性能提升了10倍。
微軟和Facebook也為高通的這一芯片站臺，并在產品發布時，分享了部署AI推理芯片的計劃：
微軟用它發現工業生產中的安全問題，Facebook則用它處理智能助理、視頻AR特效以及加速VR硬件。
但在當時，高通只是宣布了芯片，并沒有給出具體的產品。
Rajesh Pankaj也介紹了這一芯片的研發進展：芯片現在已經流片成功，并交于合作伙伴進行部署測試，明年會正式商用。
雖然這款芯片應用于云端，但Rajesh Pankaj說，高通暫時沒有提供云服務的打算，硬件會對外出售，并配備相應的軟件支持，來幫助合作伙伴搭建相應開發生態。
而且，這一芯片的出現，也在幫助高通拓展新的場景。
Rajesh Pankaj透露，不僅僅只有移動設備以及云服務商對這個芯片感興趣，還有不少汽車廠商以及其他架構廠商也展現出了興趣。
他說，在這些合作過程中，高通也會將AI落地到更多的領域中去。
與此同時，高通發力AI也不僅僅只是單打獨斗。科技巨頭們擅長使用的投資收購手段，它也沒有落下。
2018年，高通風投成立了1億美元的AI投資基金，主要用于投資5G賦能的AI領域，為自動駕駛汽車、機器人和機器學習平臺開發新技術的企業。
高通的AI發展之道
聚焦端側，鞏固自身在高能效AI方面的領先地位。然后以此為切入點，不斷拓寬AI的落地場景。
這是高通當下發展AI的重要策略之一。在Rajesh Pankaj看來，這背后也凸顯出了高通在技術研發與商業落地上的一個“傳統”：
高通所研發的AI，只是AI領域的一部分。其研發的目標，就是在這一部分中占據領導地位。只要技術在這一領域占據了主導地位，產品自然就更有優勢了。
這在一定程度上，也反映了高通的“人才觀”。
談到高通如何吸引AI人才時，Rajesh Pankaj也表達了類似的觀點，只需要把要做的做好，自然就會有人才加入。
此外，Rajesh Pankaj還談到了高通吸引人才的另外一個特征：研究成果很快就會影響產品。
他說，這對于很多研究者來說，都是一個難以抵擋的誘惑。
- 滴滴副總裁葉杰平離職，他是出行巨頭的AI掌門人，戰勝Uber中國的關鍵科學家2020-09-07
- 董明珠的格力空調賣不動了：上半年營收同比腰斬，24年來首次被美的反超2020-09-01
- 手機配件市場上的“隱形巨頭”：80后長沙夫妻創辦，IPO首日市值逼近600億2020-08-31
- 寒武紀半年報：每天虧百萬，銷售力度提升營收反降11%，上市高峰市值跌去40%2020-08-30
相關閱讀
