AI時(shí)代不看獨(dú)角獸，看10億Tokens日均消耗

明敏 發(fā)自 凹非寺

量子位 | 公眾號(hào) QbitAI

創(chuàng)立10年內(nèi)估值超過(guò)10億美元的創(chuàng)新公司，被稱之為獨(dú)角獸，它們是市場(chǎng)潛力無(wú)限的績(jī)優(yōu)股，是為行業(yè)帶來(lái)技術(shù)創(chuàng)新、模式創(chuàng)新的佼佼者。

大模型時(shí)代中，類似的新價(jià)值紅線也正在形成——

日均10億Tokens消耗量，AI業(yè)務(wù)跑通的基本標(biāo)準(zhǔn)。

量子位結(jié)合2024下半年市場(chǎng)數(shù)據(jù)盤點(diǎn)，達(dá)到這一紅線的中國(guó)企業(yè)，至少200家，覆蓋企服、陪伴、教育、互聯(lián)網(wǎng)、游戲、終端等領(lǐng)域。

這意味著，大模型時(shí)代的“搶風(fēng)口”大戰(zhàn)告一段落，真正具備價(jià)值參考的商業(yè)模式開(kāi)始明確。

各個(gè)垂直領(lǐng)域的先行者能夠找到場(chǎng)景，做到單日至少消耗10億Tokens，就是最直接的證明。

不過(guò)問(wèn)題是，日均10億Tokens基準(zhǔn)線，why？

看日活、看單用戶Tokens消耗

首先來(lái)計(jì)算下，日均10億Tokens消耗量是什么概念？

參考DeepSeek API文檔中給出的標(biāo)準(zhǔn)：

1 個(gè)英文字符 ≈ 0.3 個(gè) Token。

1 個(gè)中文字符 ≈ 0.6 個(gè) Token。

在中文世界里，10億Tokens約代表16億+漢字。換算成對(duì)話量，一本《紅樓夢(mèng)》的字?jǐn)?shù)在70-80萬(wàn)左右，相當(dāng)于一天和AI聊了2000本《紅樓夢(mèng)》的內(nèi)容。

按照一個(gè)生成式AI模型單次響應(yīng)平均需要處理1000個(gè)Tokens估算，10億Tokens意味著一天將完成100萬(wàn)次響應(yīng)。

如果是To C應(yīng)用，100萬(wàn)次響應(yīng)背后，至多將是100萬(wàn)DAU。

以作業(yè)幫為例，僅推算其旗下出海產(chǎn)品Question.AI的數(shù)據(jù)，單日消耗Tokens就接近10億規(guī)模。

這款A(yù)I教育App以大模型為基礎(chǔ)，它支持拍圖搜題、智能助教等功能，能以Chatbot的形式講解回答問(wèn)題。

根據(jù)作業(yè)題目以及實(shí)際場(chǎng)景問(wèn)答預(yù)估，一輪對(duì)話Tokens消耗量500，單人單日平均對(duì)話至少3輪。已披露數(shù)據(jù)顯示，Question.AI的DAU將近60w。

由此推算，僅Question.AI的單日Tokens消耗量已接近10億規(guī)模。與此同時(shí)，作業(yè)幫還布局多款A(yù)I應(yīng)用，并推出了多款A(yù)I學(xué)習(xí)機(jī)，每日Tokens消耗總量只會(huì)更多。

再來(lái)看AI陪聊賽道的筑夢(mèng)島。

根據(jù)最新披露消息，筑夢(mèng)島累計(jì)創(chuàng)作者數(shù)量超50萬(wàn)人，Top20人物中以原創(chuàng)人物為主，占比85%。筑夢(mèng)島用戶平均單用戶單日輸入字?jǐn)?shù)可達(dá)4000字以上，人均日對(duì)話輪次超120輪。

單用戶單日平均獲得的AI輸出，按照輸入的2-3倍計(jì)算，大約在8000-12000字（AI輸出包括AI虛擬人對(duì)話回復(fù)、AI生成提示回答等）。

量子位智庫(kù)數(shù)據(jù)顯示，筑夢(mèng)島DAU目前在10萬(wàn)水平。由此可以推算，筑夢(mèng)島單日Tokens消耗量超過(guò)10億規(guī)模。

如果來(lái)到終端場(chǎng)景，Tokens的消耗方式則變得更加多元。

AI手機(jī)中除了智能助手，還有各種滲透在系統(tǒng)里的AI功能，比如一鍵路人消除、通話總結(jié)、一鍵識(shí)屏等。據(jù)OPPO 2024年10月數(shù)據(jù)，小布助手月活突破1.5億。

更進(jìn)一步，云廠商披露的Tokens調(diào)用量以及合作客戶情況也為這一基準(zhǔn)提供參考。

2024年7月，騰訊混元披露單日調(diào)用量達(dá)千億Tokens（包含自身業(yè)務(wù)）。

2024年8月，百度披露文心大模型日均調(diào)用量超6億次，日均處理Tokens文本超1萬(wàn)億；截止11月初文心大模型的日均調(diào)用量——超過(guò) 15 億次。一年前這個(gè)數(shù)據(jù)是5000萬(wàn)次，一年增長(zhǎng)了30倍。

2024年7月，豆包大模型平均每家企業(yè)客戶日均Tokens使用量增長(zhǎng)了22倍。12月字節(jié)最新透露，豆包通用模型日均Tokens使用量超過(guò)4萬(wàn)億。

如此消耗，來(lái)自于誰(shuí)？

參考火山引擎官網(wǎng)披露的客戶名單，來(lái)自汽車、金融、互聯(lián)網(wǎng)、消費(fèi)零售、智能終端、游戲、醫(yī)療健康賽道的頭部廠商們都很突出，也都是大家耳熟能詳?shù)钠放啤?/p>

與此同時(shí)，這群“10億Tokens俱樂(lè)部成員”在2024年過(guò)得如何，也為這一價(jià)值紅線提供了有力參考。

AI業(yè)務(wù)成為拉動(dòng)增長(zhǎng)的關(guān)鍵貢獻(xiàn)

首先來(lái)在海外異軍突起的作業(yè)幫。

2023年9月，作業(yè)幫推出融合多年教育數(shù)據(jù)和AI算法積累的銀河大模型。它專門為教育領(lǐng)域打造，覆蓋多學(xué)科、多學(xué)段、多場(chǎng)景。

據(jù)Sensor Tower監(jiān)測(cè)2024上半年數(shù)據(jù)，其旗下出海產(chǎn)品Question.AI殺入美國(guó)AI類應(yīng)用下載量前三，并拿下百萬(wàn)MAU。另一款對(duì)話型AI產(chǎn)品Poly.AI同樣進(jìn)入下載的前三十名。

另一邊，在更能帶來(lái)直接營(yíng)收的AI學(xué)習(xí)機(jī)方面。

2024年7月，沙利文調(diào)研認(rèn)證作業(yè)幫在上半年拿下中國(guó)全網(wǎng)學(xué)習(xí)機(jī)銷量第一。洛圖科技數(shù)據(jù)顯示，2024年第三季度，作業(yè)幫學(xué)習(xí)機(jī)產(chǎn)品以20.6%的市場(chǎng)份額位居線上市場(chǎng)銷量榜首。

企業(yè)服務(wù)領(lǐng)域，金山云在2024年第一季度財(cái)報(bào)中明確表示，該季度總收入環(huán)比穩(wěn)定增加3.1%，主要來(lái)自于AI相關(guān)客戶。

公有云收入11.87億元，較上季度增長(zhǎng)12.9%，主要由AI客戶貢獻(xiàn)。在主動(dòng)縮減CDN服務(wù)規(guī)模的情況下，這部分增長(zhǎng)拉動(dòng)整體公有云收入，較2023年同季度增加2.9%。

這種趨勢(shì)在第二季度、第三季度延續(xù)，AI客戶依舊貢獻(xiàn)了公有云業(yè)務(wù)以及整體收入的主要增長(zhǎng)。

再來(lái)看離大家日常生活最近的AI手機(jī)。

在大模型趨勢(shì)開(kāi)啟后，OPPO旗幟鮮明擁抱浪潮，將生成式AI功能引入ColorOS以及全產(chǎn)品系列，2024年讓將近5000萬(wàn)OPPO用戶的手機(jī)搭載GenAI功能。

Counterpoint數(shù)據(jù)顯示，2024年全球前四大（市場(chǎng)占有率）智能手機(jī)廠商分別為三星、蘋果、小米、OPPO。

而根據(jù)Canalys的數(shù)據(jù)，2024年，全球16%的智能手機(jī)出貨量為AI手機(jī)。預(yù)測(cè)顯示，到2028年這一比例將激增至54%。2023年至2028年間，AI手機(jī)市場(chǎng)預(yù)計(jì)將以63%的年均復(fù)合增長(zhǎng)率（CAGR）增長(zhǎng)。這一轉(zhuǎn)變將首先在高端機(jī)型上出現(xiàn)。

比如OPPO最新發(fā)布的Find X8系列，AI味就更加濃厚。通過(guò)引入豆包通用模型Pro、豆包通用模型Lite、豆包?角色扮演模型以及更強(qiáng)的大模型實(shí)時(shí)聯(lián)網(wǎng)檢索能力，OPPO Find X8系列可以提供更加細(xì)致的AI服務(wù)體驗(yàn)。

這種趨勢(shì)反映到云計(jì)算領(lǐng)域，則是更大規(guī)模的Tokens消耗量。

火山引擎譚待曾在采訪中表示：

五年后，企業(yè)用到的日均Tokens可能達(dá)到幾百萬(wàn)億，尤其在多模態(tài)大模型推出后，各場(chǎng)景內(nèi)都會(huì)有Agent助理跟隨，帶來(lái)很大的消耗量。

得出如此數(shù)據(jù)預(yù)估背后，是對(duì)算力基礎(chǔ)設(shè)施、Agent發(fā)展、AI應(yīng)用開(kāi)發(fā)以及整體大模型落地變化的細(xì)微洞察。

Agent+AI Infra，百萬(wàn)億Tokens消耗不是夢(mèng)

先從應(yīng)用落地角度來(lái)看，Agent趨勢(shì)愈加明顯，AI原生應(yīng)用開(kāi)始發(fā)力。

OpenAI CEO奧特曼的年終盤點(diǎn)中提到：

我們相信，在 2025 年，我們可能會(huì)看到第一批人工智能代理 “加入勞動(dòng)力大軍”，并實(shí)質(zhì)性地改變公司的產(chǎn)出。

緊接著，OpenAI身體力行，上線Agent能力，ChatGPT開(kāi)始有了執(zhí)行力，可以替人完成各種任務(wù)。

更落地層面，量子位智庫(kù)觀測(cè)到AI原生應(yīng)用開(kāi)始發(fā)力。

伴隨著底層模型能力不斷升級(jí)，AI智能助手APP在過(guò)去一年中增長(zhǎng)明顯。

2024年，AI智能助手APP端的新增用戶規(guī)模就超過(guò)3.5億。12月的單月新增用戶超過(guò)5000萬(wàn)，相較于2024年初實(shí)現(xiàn)了近200倍的增長(zhǎng)。

以豆包為例。豆包在9月成為國(guó)內(nèi)用戶規(guī)模破億的首個(gè)AI應(yīng)用后，目前以超50%的市場(chǎng)份額坐實(shí)“國(guó)民級(jí)AI原生應(yīng)用”和“AI智能助手APP No.1”。

就在今天，豆包大模型1.5 Pro最新上線，能力全面提升。通過(guò)MoE架構(gòu)優(yōu)化，用1/7參數(shù)量就超過(guò)了稠密模型性能。

多模態(tài)能力上，視覺(jué)能力支持動(dòng)態(tài)分辨率、可處理百萬(wàn)級(jí)分辨率圖片，在多個(gè)基準(zhǔn)測(cè)試中表現(xiàn)優(yōu)異；語(yǔ)音方面創(chuàng)新提出Speech2Speech端到端框架，實(shí)現(xiàn)語(yǔ)音和文本模態(tài)深度融合，提升語(yǔ)音對(duì)話的理解力和表現(xiàn)力。

同時(shí)還通過(guò)RL方法大幅提升模型推理能力，階段性進(jìn)展Doubao-1.5-Pro-AS1-Preview在AIME上已經(jīng)超過(guò)o1-preview、o1等推理模型。

更強(qiáng)大的底層模型無(wú)疑為AI原生應(yīng)用提供了更堅(jiān)實(shí)底座。

聚焦到企業(yè)側(cè)，切實(shí)的增長(zhǎng)發(fā)生的更早。Agent開(kāi)發(fā)平臺(tái)成為云廠商增長(zhǎng)最快的企服產(chǎn)品之一。

比如火山引擎推出的HiAgent，上線7個(gè)月已經(jīng)簽下100+客戶。

它的定位是企業(yè)專屬的AI應(yīng)用創(chuàng)新平臺(tái)，目的是幫助企業(yè)能夠用零代碼或低代碼的方式走完從模型到應(yīng)用的“最后十公里”。

HiAgent可以向下兼容多種模型，原生整合豆包大模型的同時(shí)還兼容第三方的閉源或開(kāi)源模型，并通過(guò)提示詞工程、知識(shí)庫(kù)、插件、工作流編排四要素來(lái)輔助輕松構(gòu)建智能體，預(yù)置豐富的模板和插件，并給予自定義的自由空間。

目前HiAgent已經(jīng)為中國(guó)飛鶴、美宜佳、華泰證券等500強(qiáng)企業(yè)提供服務(wù)，落地場(chǎng)景200+，打造Agent 500+款。

扣子AI原生應(yīng)用開(kāi)發(fā)服務(wù)平臺(tái)也助力蘇泊爾、招商銀行、和府撈面、中和農(nóng)信等打造企業(yè)級(jí)Agent開(kāi)發(fā)上線。

相較于HiAgent，它面向AI應(yīng)用開(kāi)發(fā)人員不足、服務(wù)穩(wěn)定性要求高的企業(yè)，降低大模型應(yīng)用開(kāi)發(fā)門檻?？圩幼鳛锳I應(yīng)用開(kāi)發(fā)平臺(tái)，提供鏈接插件、工作流、圖像流、知識(shí)庫(kù)、數(shù)據(jù)庫(kù)等一系列工具，同樣無(wú)縫銜接豆包大模型家族以及企業(yè)精調(diào)模型與開(kāi)源模型，為企業(yè)用戶提供豐富應(yīng)用模板，以及調(diào)測(cè)、發(fā)布、集成、觀測(cè)的全周期服務(wù)。比如使用新聞插件，就能快速打造上線一個(gè)播報(bào)最新時(shí)事新聞的AI播音員。

透過(guò)這些實(shí)際落地進(jìn)展不難發(fā)現(xiàn)，當(dāng)AI應(yīng)用/Agent開(kāi)發(fā)門檻大幅降低，各行各業(yè)進(jìn)入到了規(guī)?；剿鏖_(kāi)發(fā)階段，頭部企業(yè)的腳步更快，更早利用大模型變革自身業(yè)務(wù)，也更先解鎖大模型紅利。

隨著行業(yè)先鋒案例陸續(xù)出現(xiàn)，未來(lái)AI應(yīng)用落地規(guī)模還會(huì)更進(jìn)一步鋪開(kāi)。與此同時(shí)，如HiAgent這類平臺(tái)也會(huì)不斷進(jìn)化，其能力將不局限于智能體開(kāi)發(fā)，而是更進(jìn)一步發(fā)展成為AI能力中臺(tái)。

再來(lái)看供給方面，2024年云計(jì)算領(lǐng)域最顯化的現(xiàn)象是“價(jià)格戰(zhàn)”。在這背后其實(shí)是算力成本還在進(jìn)一步優(yōu)化，云廠商可以繼續(xù)“以價(jià)換量”，推動(dòng)AI應(yīng)用落地趨勢(shì)。

行業(yè)公認(rèn)，未來(lái)的計(jì)算范式應(yīng)該以GPU為核心。

2024年，云廠商紛紛持續(xù)加強(qiáng)AI Infra能力，以應(yīng)對(duì)正在爆發(fā)的大規(guī)模推理需求。

比如火山引擎推出了AI云原生方案。它支持大規(guī)模GPU集群彈性調(diào)度管理、計(jì)算產(chǎn)品和網(wǎng)絡(luò)優(yōu)化都專為AI推理設(shè)計(jì)。在過(guò)去一年多的大模型應(yīng)用落地戰(zhàn)中，火山引擎為美圖秀秀、沐瞳科技、深勢(shì)科技等提供了堅(jiān)實(shí)的計(jì)算底座。

前不久，火山引擎Force冬季大會(huì)上還進(jìn)一步升級(jí)了以GPU為中心的AI Infra分布式業(yè)務(wù)系統(tǒng)，通過(guò)vRDMA網(wǎng)絡(luò)支持大規(guī)模并行計(jì)算及P/D分離推理架構(gòu)，提升訓(xùn)練和推理效率，降低企業(yè)使用成本；EIC彈性極速緩存解決方案，實(shí)現(xiàn)GPU直連，使大模型推理時(shí)延降低至五十分之一，成本降低20%。

在技術(shù)門檻/模型價(jià)格不斷降低、算力成本不斷優(yōu)化各種趨勢(shì)交織下，日均百萬(wàn)億Tokens的消耗不是隨便說(shuō)說(shuō)，而是幾乎觸手可及的現(xiàn)實(shí)。

由此，單個(gè)企業(yè)日均10億Tokens消耗成為一條非常有價(jià)值的參考線。

第一，它代表大模型應(yīng)用落地新趨勢(shì)，企業(yè)擁抱大模型紅利，要朝著這一數(shù)字前進(jìn)；

第二，它成為大模型應(yīng)用落地新階段的門檻，AI業(yè)務(wù)真正跑通了嗎？需求真實(shí)存在嗎？都可以此為參考系找回答。

第三，日均10億Tokens消耗也只是大模型落地“入門級(jí)水準(zhǔn)”，單客戶百萬(wàn)億、千萬(wàn)億Tokens消耗是更值得期待的星辰大海。

只是隨著這一新價(jià)值基準(zhǔn)形成，誰(shuí)能成為大模型落地的“獨(dú)角獸”，能更清晰判斷了。

大模型趨勢(shì)正在進(jìn)入全新階段：大規(guī)模商用落地。

生產(chǎn)力釋放背后，商業(yè)機(jī)會(huì)不斷涌現(xiàn)。我們希望通過(guò)這一系列欄目提供一種視角，分析大模型應(yīng)用落地早期階段浮現(xiàn)出的種種規(guī)律變化，從技術(shù)維度把握創(chuàng)新浪潮背后的演化路線。

以上是量子位最新原創(chuàng)系列策劃?rùn)谀俊改Ａ卦觥沟谌凇?/p>