清華團隊推出新平臺：用去中心化AI打破算力荒

十三 2024-04-17 12:50:13 來源：量子位

允中 發自 凹非寺

量子位 | 公眾號 QbitAI

最近，一則數據點出了AI領域算力需求的驚人增長——

根據業內專家的預估，OpenAI推出的Sora在訓練環節大約需要在4200-10500張NVIDIA H100上訓練1個月，并且當模型生成到推理環節以后，計算成本還將迅速超過訓練環節。

照這個趨勢發展下去，GPU的供給或許很難滿足大模型持續的需求。

不過，最近海外有一個新動向，可能會給即將到來的“算力荒”提供新的解決思路——去中心化AI。

三周前，3月23日，Stability AI突然發布一項公告，宣布公司CEO Emad Mostaque辭職。Emad Mostaque自己透露了接下來動向，要去追求“去中心化AI的夢想”。

但由于去中心化網絡的不確定性、不穩定性等技術上的痛難點沒法解決，上一波去中心化AI很難在大模型時代真正落地。

直到最近，量子位發現，一個在海外創業的清華團隊聚焦去中心化AI，創立了NetMind.AI。2023年，NetMind發布了一份白皮書，詳細介紹了去中心化算力共享平臺NetMind Power。這個平臺要解決的，正是去中心化AI在大模型時代落地的痛點。

一、讓每一位開發者都用得起GPU

2021年9月，NetMind.AI啟動了一項名為NetMind Power的去中心化計算平臺項目。

全球有大量的閑置算力：傳統數據中心的閑置算力，中小型企業擁有的沒有充分使用的算力以及個人擁有的零散GPU。這些算力要么被閑置，要么被用來做游戲、視頻渲染。同時，AI算力又越發緊缺，AI研究人員、中小型企業尤其是AI創業公司、參與AI項目的傳統公司都受困于AI算力的高成本和高門檻。

于是，NetMind Power創建了一個去中心化的計算網絡，利用NetMInd研發的核心技術，撬動全球算力資源，為AI產業提供好用又用得起的AI算力服務。

△NetMind Power是獲取算力的經濟之選，為用戶提供高效且實惠的計算資源解決方案。

目前，NetMind Power已經收集了數千張顯卡，包括H100，A100，4090，3090。

該平臺的四大亮點：

1. 去中心化動態集群——在極度不確定的算力上打造可靠高效的AI應用

Power平臺利用基于P2P的動態分布式集群技術，結合其獨特的路由、聚類算法及神經網絡，將成千上萬個計算節點編織成強大的網絡集群架構，專門服務于AI應用等高層需求。

當用戶在Power平臺上進行AI相關操作，如模型訓練、微調或推理時，Power的去中心化網絡能夠在極短時間內，在全球各地的計算節點中，通過最優化算法快速調配最合適的計算資源，為用戶提供服務。

同時，Power為B端用戶提供動態集群策略，可以在幾秒內智能進行節點重組和配置，提供可定制，高擴展和高冗余的專屬集群。

2. 完整的AI生態：降低算力使用門檻，擴大去中心化網絡應用場景

借助NetMind多年在AI領域的積累，Power網絡在基礎算力服務之外，還將囊括開源模型庫、AI數據集、數據與模型加密等AI生態基座，以及模型訓練、推理、部署等全方位服務，打造MaaS (Model as a Service) 平臺，為算力供給方與AI應用端的雙方賦能。

針對科研人員、AI領域的中小企業和傳統企業的AI+項目，Power的MaaS平臺將大幅度降低算力的使用門檻，特別是對于沒有專業AI開發能力的中小企業和傳統企業來說，這一點尤為重要。

對于傳統算力供給者，借助Power網絡可以觸達更多用戶。更進一步，他們借助Power的MaaS平臺，可以擴大應用場景，獲得更高收益。這樣一來，Power網絡可以將傳統的中小型中心化算力也納入去中心化算力網絡，進而大幅度擴大網絡規模。

3. 異步訓練算法——解決網絡瓶頸，挖掘閑置算力潛力

在當下的機器學習領域，特別是在大型語言模型訓練中，通常需要通過GPU專用連接線或高帶寬的內部網絡來實現GPU間的同步分布式訓練，這不可避免地增加了訓練的門檻和成本。

NetMind Power通過自研的模型切分和數據異步的技術，打破了分布式訓練中網速和帶寬的壁壘，即使是分布在地球不同角落的訓練節點，也能夠同步參與到龐大的模型訓練工作中。

4. 模型加密與數據隔離——解決去中心化網絡中的安全困擾

Power提供獨特的模型加密技術，保障了在去中心化的志愿計算場景中，用戶的AI模型和數據安全。所有網絡通信都經過加密處理，保障了數據傳輸的安全；通過數據隔離與模型拆分確保去中心化網絡中任何單一節點無法獲得完整數據和模型，大幅度提高安全性。

二、又一個清華背景團隊，已在海外創業多年

NetMind.AI的核心團隊來自清華，已在AI領域打磨超過10年的時間。

公司創始人兼CEO, Kai Zou 于2010年畢業于清華大學數學物理基礎科學班，并于2013年獲得喬治城大學數學和統計學碩士學位。

他是一名連續創業者，曾同時領導ProtagoLabs和非營利組織AGI Odyssey。同時，他還是一位天使投資人，曾投資包括Haiper.ai、Auto Edge、Qdot和Orbit在內的多家AI初創企業。

值得關注的是，目前，Kai Zou 和OpenAI研究員Jason Wei發表的論文《EDA: Easy Data Augmentation Techniques for Boosting Performance on Text Classification Tasks》累計引用次數已經超過2000次。CEO和他的團隊堅信他們搭建的平臺應該為真正做學術研究的學者以及推動AI發展的企業工程師們提供資源。

公司CTO則于2016年在喬治華盛頓大學獲得計算機科學碩士學位；在加入NetMind.AI之前，曾在微軟擔任高級團隊負責人；其在Web3、區塊鏈技術、分布式系統、Kubernetes、云計算以及Azure和AWS等方面積累頗深；并具備邊緣計算、全棧開發和機器學習等專業技能。

三、終極理想：把AI送進千家萬戶

NetMind去中心化AI的愿景背后，實則深埋著技術普惠的理想。

回看IT技術發展史，去中心化的思潮往往在計算資源集中化陡增的時刻涌現，作為一股自下而上的力量，對抗試圖將一切資源壟斷的巨頭，從而拉開新一輪的技術普惠浪潮，讓新技術真正普及到世界各個角落。

如今的大模型市場，或許正處在這樣的時刻。

放眼大模型市場，轟轟烈烈發展了一整年后，真正能站穩腳跟的創業公司并不多。除了極少數幾家明星獨角獸外，大模型的未來似乎正在收斂到微軟、谷歌、英偉達等科技巨頭手中。長此以往，少數企業可能會對計算資源的定價、可用性和訪問權限形成壟斷控制。

這時候，正需要類似NetMind Power這樣的民主化敘事，為AGI的故事撰寫新的藍圖。

目前，NetMind已經在學術和商業領域展開合作——

學術方面，NetMind Power目前已經與諸多國內外頂級名校開展合作，包括計算機科學領域頂尖的劍橋大學、牛津大學、卡耐基梅隆大學，美國西北大學、清華大學、華中科技大學、萊斯大學、復旦大學、上海交通大學等。

商業方面，NetMind Power作為企業提供基于去中心化網絡的AI算力解決方案，讓企業可以專注于模型研發與產品創新。越來越多的企業在Netmind Power的幫助下，加速推出AI創新產品。例如最近在北美勢頭正盛的文生視頻團隊Haiper.ai已經將其模型的訓練和推理與NetMind Power平臺深度結合。

未來，NetMind Power將逐漸生長為一個去中心化的AI社區，加速全球AI創新。

機器學習從業者，學術研究人員及AI應用側的企業都可以在NetMind Power平臺找到自己所需的算力和模型，也可以把自己訓練的模型托管在平臺上，甚至提供給平臺上的其他用戶，并從中收取一定費用。

用戶不僅能夠在平臺上調用相應算力解決自己的訓練需求，還能將自己訓練的模型通過平臺提供給更多有需要的人或企業，層層傳遞。

將時間軸拉長，要真正實現AGI，AI的普惠化和民主化是必然前提。如今，率先出發的NetMind.AI，正在做出自己的貢獻，尋找更多的伙伴，通向民主的AGI時代，邁出堅實的一小步。