百度謝廣軍：百模大戰和價格戰之后，大模型下一個戰場在工具平臺

衡宇 發自 凹非寺

量子位 | 公眾號 QbitAI

AI大模型對生產生活的滲透，已經在方方面面。

甚至可以說，它帶來的影響比過去十年里，AI對各行各業的影響更加深遠。并且一步一步發展至今，從“探索”到“價值產生”，已經變成了企業和模型廠商共同的迭代。

拿企業來說，它們不再單純追求擁抱大模型，而是開始明晰那些業務需要大模型，大模型如何絲滑融入自己的工作流中，以及需要什么樣的模型及應用。

而模型廠商這一邊，拿到企業更明確的需求后，更懂得怎么讓大模型業務真正深入垂直場景，提供哪些提效的工具，事半功倍地發揮大模型的價值。國內廠商在一年半內經歷了百模大戰和價格戰，大模型的下一個戰場在工具平臺上。

以上，是在2024百度云智大會上，百度副總裁謝廣軍分享的一線洞察。

他順帶公布了一組數據：

過去一年多以來，千帆平臺日均調用量超過7億次，累計幫助用戶精調了3萬個大模型，開發出70多萬個企業級應用。

并且，隨著大模型在產業滲透的深入、需求的明確、技術的進步，百度千帆大模型平臺3.0應運問世。

重塑生產力的三階段演進

交流會上，謝廣軍拉明時間線，按照大模型調用趨勢的變化，將過去一年半多的時間劃分為了三個階段。

• 第一階段：ChatGPT出現-2023年上半年
• 第二階段：2023年下半年-今年年中
• 第三階段：今年年中-現在

第一階段，是最為轟轟烈烈的百模大戰時期。

這是一個屬于探索和學習的階段，接觸大模型的人/團隊，都在找卡、囤積算力，爭相采購GPU/AI芯片，下場嘗試研究和訓練模型，這時候企業的需求大部分還是模型調用和精調。

謝廣軍打了個比方：那時候，最重要的事情就是跑馬圈地。

也就是對標OpenAI、Anthropic等搶跑，通過迅速擴張或搶占資源來確立自己的優勢地位。

大伙兒秀肌肉，最主要的目的是向外界證明我們也能訓練出大模型的可行性。

第二階段，重點轉向對應用場景的探索。

很多企業和開發者，不再滿足于將AI大模型視為一個獨立的工具，而是將其視為一種全新的生產力工具。

也是因為隨著模型能力的初步具備，企業開始探索在業務系統當中怎么把大模型應用起來，改造現有的系統或者創造全新的應用，從而提升業務效率和價值。

這一時期，智能問答、智能寫作等智能助手類應用如雨后春筍般涌現。

但謝廣軍指出，真正在生產中使用并創造價值的應用仍然屈指可數。

從今年5月開始，百模大戰演化成價格激戰——降價，激發了企業對大模型的調用量，促進一批場景的探索，一定程度上加速了大模型落地。

第三階段，也就是現在，大模型應用進入了深入場景和深度融合應用的階段。

如今，隨著模型效果的提升和價格的下降，真正的落地應用終于出現了。

謝廣軍舉例表示，教育領域、制造行業、金融行業、醫療領域，大模型帶來的智能系統都在各司其職。

與此同時，大模型開始與傳統軟件深度融合，重塑生產力工具。

特別明顯的，企業不再滿足于智能助手等單一形態的應用，而是將大模型賦能于進銷存系統、ERP系統等傳統應用，推動業務創新和效率提升。

總而言之，如果把第一階段的標識是百模大戰，第二階段的代表是價格戰，那么，第三階段的典型則可以歸于“應用平臺工具”身上。

這也是為什么百度千帆大模型平臺一直不停升級的原因。

從模型訓練到全棧開發，戰場來到工具平臺

謝廣軍回顧了過去一年半的時間里，百度千帆大模型平臺順應階段性變化，都有哪些進展。

第一階段的百模大戰時期，也是B端使用模型的嘗鮮期。

百度智能云推出了千帆大模型平臺1.0，其中包括模型微調的工具鏈和大模型調用接口，模型調用開始起量。

第二階段，千帆進化為2.0版本，“應用開發”來到臺前。

除了支持模型服務和開發，千帆2.0主要增加了AppBuilder這樣的AI原生應用開發平臺，支撐RAG、Agent應用開發的各種需求。

進入今年，為了更系統地支持企業客戶在應用開發、模型推理、模型開發等層面的大量且復雜的需求，千帆2.0持續演進，不斷迭代。

不過，雖然第二階段的千帆已經開始在企業級生產力場景里落地出力了，但謝廣軍分享了自己的觀點：

隨著模型技術進展、應用深入，實際場景當中只有大模型也不夠，今天講模型多模態，其實還是通過大模型與視覺、語音等垂直場景模型協同。

其次，企業級RAG和企業級Agent是未來大模型產業落地的主要形態。

為了適應日漸加深的深度，適應企業生產力的各種需求逐步演化，于是，千帆大模型平臺3.0應運而生。

全面從模型訓練轉向全棧開發，開啟第三階段的故事。

千帆大模型平臺3.0是面向生產力場景的企業級的一體化服務平臺，主要為企業提供生成式AI生產以及應用全流程開發工具鏈。

在以下三個層面，均有全面升級：

? 模型開發層

? 模型服務層

? 應用開發層

模型開發層

謝廣軍談到，千帆3.0的模型開發層提供最全面的工具鏈。

旗艦模型ERNIE 3.5、ERNIE 4.0 Turbo還首次開放SFT，可預置獨家高質量混合語料。

原因無外乎兩點。

一來實際業務反饋，不管從質量還是數量來看，企業自有數據都還有提升空間。預置獨家高質量混合語料供企業用戶在平臺上擴充，可以增強模型最終效果。

二來，垂直領域模型后訓練時混入通用語料，能進一步緩解通用能力遺忘這個問題。

模型服務層

千帆3.0的模型服務層提供豐富的模型。

主要包括百度自研的文心系列，以及新增語音系列能力模型和視覺系列模型。

自研模型中，包含了最新模型ERNIE 4.0 Turbo、ERNIE Speed Pro、ERNIE Lite Pro；主力模型ERNIE Speed、ERNIE Lite依舊免費；垂直場景大模型新增了ERNIE Novel等。

除大語言模型外，考慮到傳統語音、視覺模型在實際落地時仍有需求，大模型與垂類場景模型的協同混用很常見，因此，模型服務層也包括傳統模型在內。

謝廣軍用一張圖展示了千帆3.0模型服務層可提供使用的大模型：

應用開發層

應用開發層提供的，則是企業級RAG和企業級Agent的開發工具千帆AppBuilder和端到端應用開發工具AI速搭。

謝廣軍分享了一個數據：截至目前，千帆大模型平臺已經幫助用戶開發了超過了70萬個應用。

千帆大模型平臺3.0提供的是企業級RAG和企業級Agent的開發工具。

針對企業落地大模型的高頻應用場景，千帆3.0從檢索效果、檢索性能、存儲擴展、調配靈活性四方面對企業級檢索增強生成（RAG）進行了全面升級；

針對企業級Agent的開發，千帆3.0增加了業務自主編排、人工編排、知識注入、記憶能力以及百度搜索等80多個官方組件支持。

AI速搭則可以端到端地開發應用，通過一句話或者通過PRD，就能一步一步生成包括表單、數據、流程的生成端到端應用，還可以基于低代碼GUI方式對生成的應用修改和完善。

借助生態共同成長

大模型的落地，除了基座大模型能力的提升，本身還是非常重視在行業場景當中的能力增強和應用，謝廣軍稱之為“深入場景”。

今天，百度智能云千帆大模型平臺，在千行百業中細分場景，然后不斷提升場景中的模型能力、數據能力以及應用能力。

與此同時，千帆還推出了一系列應用樣板間，讓用戶學會模型精調樣板間，以及如何給大模型輸入模板。

通過這樣的方式，用戶入門門檻被不斷降低，大模型在若干行業場景的積累愈發深厚，推廣滲透也更加深入。

經過一年多的探索，今天有很多的用戶需求已經成熟了。

“擁抱大模型”已經不是企業的第一要務，把大模型在業務流程中跑起來，能把大模型用好，在業務中產生價值，才是有真本事。

大模型的效果、數據的合理使用、應用的構建方法等，是現在企業結合大模型時關注的焦點。

“現在是很好的時機。”謝廣軍說，用戶也會挑選業界領先的伙伴合作，借助生態共同成長。

隨著應用本身的深入落地，平臺會越來越多，機會也越來越廣。

再加上用戶側的需求更加清晰、更加務實，平臺能夠精準地持續完善相關功能，讓大模型真正在業務場景中深入落地。

也就是說，企業真的準備好迎接和運用大模型應用的蓬勃生態。

而當企業對大模型的判斷和需求更加成熟時，大模型廠商又迎來了新的機會。

在這樣的新趨勢下，謝廣軍也簡明勾勒了大模型產業落地的未來線條。

首先，隨著技術的迭代，模型推理成本的降低，大模型的價格會持續下降。在這次2024百度云智大會上，也公布了一個數據：過去一年，文心大模型旗艦模型累計降價超過90%。

持續的降本能給客戶產生持續的收益，促使更多企業用得起、用得好。

當然了，當模型廠商還沒有達到技術迭代升級的情況下，純粹在資本推動下掏腰包做補貼，低價必然不是長久之計。

其次，雖然不管新模型還是老模型的價格曲線都會下落，但“價格下降”不是制勝一擊。

研究更好的推理架構，用低算力推理達到更好的模型效果，是值得長期重視的關鍵。

效果不行，再便宜也用不起來。

最后，卷價格、卷效果，最終都會回歸于各個廠商對自身成本的優化與控制。

相同效果下，模型廠商不斷升級工程能力，降低自身成本，才能給出更實惠的模型使用價格，才能讓更大眾的場景把大模型用起來。

從千帆大模型平臺3.0身上，我們可以看到百度對大模型產業落地整體趨勢判斷的縮影——

從最初的提供大模型調用和精調服務，到如今面向生產力場景的企業級一體化服務平臺，不變的是始終與一線需求共同迭代。

隨著大模型真正的落地與融入業務流程，屬于工具平臺的戰事即將打響。率先迎接機遇和挑戰的千帆3.0，會是這個戰場上最耀眼的一員。