豆包大模型日均Tokens使用量破5000億，模型家族再升級
有超過50多個(gè)業(yè)務(wù)在使用豆包大模型
7月25日，火山引擎2024“AI創(chuàng)新巡展”首站成都站透露了字節(jié)豆包大模型的最新進(jìn)展：截至7月，豆包大模型日均Tokens使用量已突破5000億，平均每家企業(yè)客戶日均Tokens使用量較5月15日模型發(fā)布時(shí)期增長22倍。
豆包大模型由字節(jié)跳動(dòng)自研，原名“云雀”，是國內(nèi)首批通過算法備案的大模型之一，目前通過字節(jié)跳動(dòng)旗下云服務(wù)平臺(tái)火山引擎面向企業(yè)提供服務(wù)。自發(fā)布之初，豆包大模型便主打使用量大、應(yīng)用場景豐富。
據(jù)火山引擎副總裁張鑫介紹，在字節(jié)內(nèi)部，有超過50多個(gè)業(yè)務(wù)在使用豆包大模型，覆蓋了協(xié)同辦公、數(shù)據(jù)分析、文案創(chuàng)作、輔助編程、內(nèi)容審核、客服、游戲NPC、角色對話、教育等各種場景，基于豆包大模型打造的新技術(shù)引擎正在加速業(yè)務(wù)創(chuàng)新；此外，豆包大模型的外部客戶已覆蓋手機(jī)、汽車、金融、消費(fèi)、互娛等30多個(gè)行業(yè)，并聯(lián)合OPPO、vivo、榮耀、小米、三星、華碩等知名終端廠商和吉利汽車、長城汽車、捷途汽車、賽力斯、智己汽車等20余家汽車廠商分別成立了智能終端大模型聯(lián)盟和汽車大模型生態(tài)聯(lián)盟。
本次活動(dòng)中，作為豆包大模型西南區(qū)域的企業(yè)客戶典型，藍(lán)領(lǐng)招聘平臺(tái)魚泡科技和智能客服企業(yè)曉多科技也各自分享了接入豆包大模型實(shí)現(xiàn)業(yè)務(wù)增長的案例經(jīng)驗(yàn)。其中，魚泡科技的豆包大模型日均調(diào)用量已超1億Tokens，應(yīng)用場景覆蓋了崗位要求識(shí)別、工種識(shí)別、求職意向識(shí)別、推薦系統(tǒng)相似度識(shí)別等。
火山引擎大模型服務(wù)算法架構(gòu)師孫帆指出，企業(yè)在使用大模型時(shí)，面臨的關(guān)鍵挑戰(zhàn)就是“模型效果”、“使用成本”和“落地難度”三個(gè)方面。豆包大模型和火山引擎正是從“更強(qiáng)模型”“更低價(jià)格”“更易落地”出發(fā)，幫企業(yè)解決難題。
據(jù)悉，豆包模型家族在5月正式發(fā)布時(shí)，提供的就是一個(gè)有多模態(tài)能力的模型家族，主要包括通用模型pro、通用模型lite、語音識(shí)別模型、語音合成模型、文生圖模型等九款模型。主力模型豆包通用模型pro自5月發(fā)布以來，在多個(gè)公開評測集以及專業(yè)的第三方評測中表現(xiàn)出眾，是得分最高的國產(chǎn)大模型。
本次，豆包模型家族升級了文生圖模型和語音模型。升級后的豆包·文生圖模型具備更精準(zhǔn)的中英文長文本理解能力，能夠生成圖文一致的高美感圖片；豆包·語音合成模型在升級后實(shí)現(xiàn)了智能識(shí)別文本情緒并對語速、語調(diào)動(dòng)態(tài)調(diào)整，使之情緒更加飽滿；聲音復(fù)刻模型僅需5秒就能高保真復(fù)刻人聲，并支持多種小語種。
值得一提的是，豆包模型家族此次官宣了一位新成員——豆包·圖生圖模型。基于文生圖模型打造，豆包·圖生圖模型能實(shí)現(xiàn)高度還原人物特征，50多種風(fēng)格場景自由轉(zhuǎn)換，并提供多種富有創(chuàng)意的延展編輯。該模型能力已經(jīng)在抖音、剪映、豆包、星繪等字節(jié)系A(chǔ)pp中落地，并通過火山引擎服務(wù)了三星、努比亞等企業(yè)客戶，目前日均圖生圖數(shù)量達(dá)到數(shù)千萬張。
在模型定價(jià)方面，公開報(bào)道顯示，豆包主力模型的推理輸入價(jià)格只有0.0008元/千Tokens，比行業(yè)便宜99.3%。火山引擎總裁譚待此前接受采訪時(shí)曾對此表示，大模型的超低定價(jià)，來自對技術(shù)的信心，火山引擎能通過技術(shù)手段實(shí)現(xiàn)大模型推理成本的優(yōu)化。
“一個(gè)人現(xiàn)在創(chuàng)業(yè)，如果要花1萬塊錢調(diào)用大模型，可能會(huì)覺得有點(diǎn)貴。我們把價(jià)格降到1%都不到，100塊錢就能用起來，他的想法也就更容易嘗試。”譚待表示，企業(yè)的AI轉(zhuǎn)型充滿不確定性，試錯(cuò)成本要盡量低，才能更快更多地實(shí)現(xiàn)大模型的應(yīng)用落地，從而讓整個(gè)行業(yè)受益。”
除了效果好，價(jià)格便宜，豆包大模型還給出了最高可達(dá)同梯隊(duì)模型數(shù)倍的每分鐘處理Tokens限額，讓模型服務(wù)具備更強(qiáng)的承載力。
據(jù)孫帆介紹，豆包通用模型pro為客戶提供了業(yè)內(nèi)最高標(biāo)準(zhǔn)的初始TPM（每分鐘Tokens）和RPM（每分鐘請求數(shù)），有助于企業(yè)的業(yè)務(wù)在高并發(fā)場景中落地。
目前，字節(jié)跳動(dòng)還在持續(xù)加大對大模型技術(shù)研究的投入，近期在視覺、語音等方向有多項(xiàng)亮眼成果產(chǎn)出，其中，已有部分能力應(yīng)用于豆包大模型相關(guān)產(chǎn)品中。
“我們希望用扎實(shí)的技術(shù)實(shí)力給客戶更好的選擇，幫助企業(yè)解除成本包袱，讓客戶更積極更大膽的嘗試、迭代，讓大模型應(yīng)用大踏步向前。”孫帆說。
火山引擎還升級了頭條、抖音同款插件服務(wù)，新增網(wǎng)頁解析、計(jì)算器等插件，進(jìn)一步擴(kuò)寬模型能力的邊界，支持企業(yè)多樣的應(yīng)用需求，同時(shí)帶來了扣子專業(yè)版、HiAgent平臺(tái)等多款產(chǎn)品和云基礎(chǔ)設(shè)施的最新進(jìn)展。
張鑫表示，火山引擎在高速自我迭代，走向更加智能化、行業(yè)化和區(qū)域化。他說：“通過針對性的行業(yè)方案、產(chǎn)品和優(yōu)化服務(wù)，相信在未來，會(huì)有更多西南區(qū)域的企業(yè)借助豆包大模型和火山引擎的力量，實(shí)現(xiàn)業(yè)務(wù)創(chuàng)新，從而為經(jīng)濟(jì)發(fā)展注入新的活力。”
相關(guān)閱讀
