作為業內備受矚目的國際頂級會議,第16屆OSDI(Operating Systems Design and Implementation)已于日前召開,并正式公布了論文接收名單。其中,微信團隊《Ekko: 超大規模推薦系統的模型低延時更新方案》論文成功入選,這也是騰訊首次以第一單位于該會議發表論文。
被譽為系統界的“奧斯卡”,OSDI匯集了全球計算機科學家們對于計算機系統的前瞻性思考,其成果往往引領著全球計算機發展的方向。創會以來近30年,國內單位在該會議發表論文總數僅20余篇,而本屆OSDI的論文接收篇數更是低至49篇。
Ekko 來源于微信內部的 WePS 項目,是一個超大規模推薦系統模型低延時更新的解決方案。微信團隊入選論文對Ekko展開了詳解——面對實時社交活動的場景需求以及微信10億+的用戶體量,業界此前最好的推薦模型更新方案都不能很好地進行適配,于是Ekko應運而出。
Ekko方案包含高效的P2P模型更新傳輸服務、SLO感知的模型更新調度器、模型狀態管理器三大部分,并于全面測試中展示出相比最先進的深度學習推薦系統高達幾個數量級更快的模型更新下發性能。不僅在學術上填補了業界在模型高效更新上的空白,更比此前的最佳方案提升高達100x。
Ekko方案已于微信業務場景落地兩年,目前微信數千臺機器上存儲了數百TB的Ekko模型,涵蓋包括視頻號、看一看和訂閱號等場景,每天服務超過10億用戶。視頻號更是在全量使用基于Ekko的在線推薦后,結合產品迭代與運營,全球模型更新生效延時低于2.4秒,半年內日活增加達40%,總播放量增長達87%。
論文成果受國際頂會認可,背后是微信及騰訊多年來持續開展計算機系統領域投入、潛心技術研究的成果。接下來,微信團隊也將繼續加強基礎理論和關鍵技術的研發,并基于前沿技術應用于豐富的業務場景,優化產品體驗,帶動行業服務。




