Agent云服務，不止做平臺｜量子位·視點 x 匯智智能

林樾 2024-06-17 10:59:34 來源：量子位

允中 發自 凹非寺
量子位｜公眾號 QbitAI

AI Agent熱度不低，但是企業真的在使用智能體了嗎？

為了更加了解AI Agent落地現狀，量子位·視點邀請到了匯智智能聯合創始人樊剛正，一同來交流AI Agent正在以什么樣的方式與具體場景相融合。

樊剛正與我們分享了Agent公司來自實踐一線的觀察與思考。從本地生活+AI，到AI教育，再到分別面向C端和B端的智能體平臺，匯智智能圍繞Agent的落地做了不少的嘗試探索。

那么AI Agent的價值點在哪里？最適合AI Agent落地的場景是什么？一線用戶對智能體需求的真實反饋是什么？

以下在不改變原意的基礎上，根據分享內容整理成稿。

技術的引入需要解決實際問題，而非增加復雜度。

先考慮做單點突破，再去考慮做泛化通用。

不是去造飛機大炮，而是要在AI商業化中造子彈。

企業內部能最先能用好的Agent，比如像在釘釘、飛書這種企業協作工具里。

今天在分享中，我更傾向于向大家去呈現：我們在Agent落地方面經歷了什么樣的探索，然后在落地探索中，我們吸取了哪些經驗。我覺得這個實際業務當中的一些經驗，可能對于大家來講更有啟發，也更有價值。

匯智智能最早是做本地生活，還有游戲相關的業務。所以最初我們轉向做AIGC的時候，也嘗試過和我們過去的業務做一些結合。

我覺得任何從傳統業務，或者從互聯網行業轉型做AI的公司可能都會經歷過這樣的步驟，先去考慮AI和我原有業務怎么去做結合，然后再想如何僅基于AIGC去做產品。這也就是從應用+AI到AI原生的這么一個路徑。

技術的引入需要解決實際問題，而非增加復雜度

最早匯智智能做的小程序是面向本地生活商家，主要是為用戶提供運營管理的工具，通過抖音MCN，以派單的方式給達人一些線上任務。

加入AI大模型后，我們先后推出了旺氪小程序和智能體AI小程序。除了接單派單的功能，還加了內容生成的工具化服務。比如說用戶可以在小程序里生成門店圖片，或景區風景合影照片。當時上線了非常多的插件類工具，我們在內部把這個叫做智應用。

但在這個過程當中，我們發現：即使有一些流程指引，商家反饋的使用效果也不是很好。加了AI的功能之后，部分視頻是AI生成的，部分文案是AI生成的，但對商家來講，他們覺得步驟變多了，但我拿到的東西還是和過去一樣。

在一開始轉型做AI業務的時候往往會發生這樣的問題，想當然地認為可以用AI去改造現有的生產環節，或者認為這能夠替代一切原有的內容生產。但實際使用時會發現，ROI并沒有想象的高。

在應用AI時我們需要謹慎，特別是在沒有顛覆性創新之前，技術的引入必須真正解決實際問題，而不是增加復雜度。

另外我也給大家一個建議，就是先考慮做單點突破，再去考慮做泛化通用。過于泛的場景應用容易導致各個場景只能拿到60分，但對用戶來說，如果你只能在一個場景中解決60%的問題，其實解決0%的問題沒有區別。

AI教育與人才培養的嘗試

在上面的嘗試中我們也發現：AI的轉型落地依賴于相關人才來完成最后100米的落地部署。這種人才在國內來講是比較少的，真正能稱得上是大模型工程師的人其實不多，這也導致項目落地時，沒辦法提供很高的交付能力。

所以我們希望為市場培育更多人才，這對整個行業都是有價值的。于是我們想把過去內部業務培訓的內容，拿出來做成對外的課程。但它也沒有太強的生命力。

因為在沒有積累豐富的AI落地案例的時候，課程更多偏大模型本身的技術學習。所以面向的學員群體非常窄，推廣難度大，沒有能夠吸引很多人來加入這個行業。另外，教育內容的研發和推廣周期長，導致課程上線時已落后于市場需求。

我們的經驗是，AI教育應從業務中自然生長，當有足夠多的經驗案例時再推向市場。同時，教育對象應是可以轉化為業務伙伴的用戶，而不是C端用戶。對于業務平臺來說，直接參與知識付費業務沒有那么合適，應該謹慎對待。

Gnomic與Agent云：C端與B端的融合

在幾次業務嘗試之后，我們重新思考了匯智智能在大模型生態中的定位——我們將自己定位在應用框架層，合作伙伴屬于垂直應用層。

目前匯智智能的業務架構是B端和C端融合的結構。我們目前主要的兩個智能體平臺：Gnomic平臺面向C端創作者，提供定制化的智能體創意、分享與推廣服務。Agent云則為B端企業提供AI數字員工解決方案和云服務，幫助企業優化成本、提升效率，提供決策支持。

截至今年5月底，Gnomic平臺擁有超過500萬用戶，原創智能體數量達7萬多個。像AI小王子、南瓜博士，還有數字生命卡茲克，都是我們最早一批內測用戶。

Gnomic平臺面向的用戶群體很廣泛，我們可以通過這些智能體去觀察，有哪些場景適合我們做深入的業務探索。比如目前有3萬+休閑娛樂相關的智能體，例如角色扮演等，還有2萬+與工作學習相關，2萬+與金融和商業相關。

我們所有的智能體支持轉發或部署到微信公眾號、抖音號中，讓我們平臺的能力變成創作者在個人平臺里的能力。我們也會幫創作者做一些推廣，分享創作者作品讓更多人看見。希望能夠做到「與AI熱愛者同進，與AI創造者共贏」。

Agent云平臺的定義是企業級的AI數字員工解決方案與云服務平臺。區別于過去的數字員工，Agent云定義的AI數字員工更突出與大模型結合帶來的新價值。具體有五大用戶價值點：

• 永生數字員工：每個智能體都會保留長期的工作協作記憶
• 一分鐘購買即用：從購買到部署到空間，可以在一分鐘之內完成
• 企業知識管理：幫助企業搭建自己的行業專家級知識庫
• 智能體工作流：多個智能體在復雜工作流程中實現人機協作
• 自研AI技術棧：可以持續為用戶提供有升級演進能力的技術服務

自研技術棧增強對技術的掌控力

匯智智能擁有自研大模型CarrotAI，預計今年下半年可通過備案，向公眾提供大模型服務。

有很多合作方和生態合作伙伴問我們，為什么作為平臺層公司，還要做自己的大模型？

因為我們覺得，如果只是做平臺層，往往會陷入身不由己的境地。最近大模型在大降價，相比直接我們的接入成本降了很多。但是對我們而言，成本可控比成本低更重要。

而且，當我們熟悉從數據標注到預訓練的大模型開發全過程，再到最后微調、部署，我們自身也會有更強的技術掌控力。面對客戶的需求時，我們都可以通過自己的技術棧做快速的切入來提供服務。

我們希望通過Agent云平臺，能夠讓智能體成為企業組織的新基建。

面對更多的場景，僅靠匯智智能來承載是不夠的。這里為大家呈現的是，匯智智能生態合作伙伴的運營體系——城市運營中心。

最終我們希望通過匯智智能的大模型創新能力，為合作的城市運營中心提供技術上的賦能。讓身處于行業中的生態合作伙伴，去交付具體客戶。

比如像金融行業的客戶需要智能體業務，我們自己去了解行業再做成定制化產品，就會花費比較長的調研、開發時間，而對于金融行業的合作伙伴而言，就容易得多。我們將底層技術提供給金融行業的合作伙伴，由他們完成實際交付。相當于把匯智的能力復制出去了。

我們這段時間也正在招募城市運營中心的合作伙伴，非常歡迎大家聯系我們交流合作。

以上就是我們目前在AIGC商業化探索中的一點經驗。

企業協作有可能最先用好AI Agent

Q：在目前匯智智能的觀察中，在哪些場景或什么樣的工作，是Agent能夠完成得更好更優質的呢？為什么企業可以用Agent來代替原有的工作流？

匯智智能樊剛正：在Agent云中上線的智能體，大多數都是用于企業內部協作的場景。我們覺得在企業內部能最先能用好的Agent，比如像在釘釘、飛書這種企業協作工具里，在內部平臺去加上智能體業務。

Q：目前匯智智能有哪些具體落地的案例，可以與大家分享？

匯智智能樊剛正：其實還挺多的。比如我們之前與江蘇的一個國企合作，提供企業內部的協作服務。他們作為一家大企業，旗下有400多個子公司，內部協作時有許多各部門共享的文檔，和需要同步的會議信息。

我們為他們定制了內部使用的智能體平臺。在平臺里，可以創建不同部門的智能體空間，每個空間的智能體都對應了具體的員工，員工平時可以把日報和周報發給智能體。時間一長，對應的智能體會非常了解這個人在做什么，平時在解決什么問題。

如此可以實現以下兩種場景。一個是記憶的傳承，當原來員工離職后，新員工可以繼承他的智能體，遇到問題就可以向原來員工的智能體詢問。還有一個是記憶的共享，用戶可以調用不同身份的智能體。當該身份員工不在時，可以向他的智能體尋求建議。智能體就像是一個員工的數字分身。

當智能體平臺與監控攝像頭相結合，還可以做到預測功能。比如過去火情監測是靠煙霧、火苗的識別來做預警，那么通過監測環境中的易燃物，可以提前預測火災的可能性，同樣也可以預測火情的原因和適合什么設備來滅火。類似的監測還可以用于校園霸凌的場景，比如發現多個學生圍著某個孩子時，就可能存在校園暴力的場景。

Q：那就您的觀察，目前智能體的用戶比較關注的Agent的功能是什么樣的呢？

匯智智能樊剛正：不同行業有不同關注的價值點。主要集中在三個方面，一個是快捷、一個是可塑，一個是性價比。

比如我們和一個咨詢公司的合作。對方主要是為企業提供數字化轉型咨詢服務的。當用戶問他們有沒有AI平臺可以使用時，他們就只能推薦使用智譜，或者月之暗面這些平臺。那么，現在我們提供了定制化智能體平臺OEM服務，他們可以直接對客戶企業說：可以直接使用我們的平臺上的智能體產品。對于這樣的用戶，他們關注的就是平臺的快捷、可塑。

有的公司需要單獨做具備智能體功能的小程序開發，我們就提供了比較有競爭力的服務價格。對于生態合作伙伴，在開發費用、算力費用上都有不同程度的優惠政策。相比企業自己去搭技術棧做這樣一個平臺，我們可以節約95%以上的成本。

Q：那么像現在大模型迭代也非常快，那么智能體產品是否需要始終適配最新的大模型呢？

匯智智能樊剛正：不是這樣。以C端的視角來舉例：假設我是一個提示詞創作者，過去在ChatGPT上面創作了很多有意思的提示詞，但當把這些提示詞搬到智譜，或者月之暗面的模型上面時，發現效果和GPT回答的并不一致，因為他們本身的能力是不一樣的。

那在企業端也是這樣的問題。比如已經把智能體配置得很好，基于某種模型做了測試，調試后達到了一定的效果。如果有什么最好的模型馬上做更換的話，那相當于提供的服務其實是不穩定的。可能換了參數量、能力更強的模型，但不意味著一定能做更好的服務。我們更傾向于在這個場景下，當模型已經能實現用戶要求的時候，一般就不會做更換。

這也是去年行業里一個普遍的誤區，就是模型越大越好、模型一定要參數量越高越好。其實不是這樣的。小模型，相對來講更可控，而且成本更低，我們去做運營的調試成本也會更低。對于用戶來講，也能夠做更多定制化的東西。

Q：還有伙伴比較關心，如果用Agent來作為數字員工的話，涉及到任務的解答或者知識的繼承，對于準確性還是有一定要求的，匯智智能如何看待智能體的數據準確性呢？

匯智智能樊剛正：數據準確這方面，其實有很多策略可以來解決。大家知道大模型有幻覺問題。比如大家關注的AI搜索：以前用大模型回答問題時，很難避免不出現幻覺。而AI搜索的邏輯是：用戶輸入問題后，后臺調用搜索的插件，比如Bing的插件去看搜索出來的結果，然后根據這些結果的文本內容進行總結，再回答你。

我們也可以在知識庫的層面去避免這種問題。如果你發現想提供給用戶的服務，在知識庫里沒有，互聯網上也找不到，那我們可以幫企業做信息上傳，進行知識庫的處理。

我們還可以在提示詞里做避免幻覺的提示詞策略，比如要求AI回答的任何問題，都必須通過知識庫或互聯網連線去檢索回答，并提供依據。

另外。技術本身是有自己演進過程的。我們現在也很難信任智能體來完成一些具體的金融行為，比如讓智能體幫我付錢。比如訂單點菜的智能體，萬一產生了幻覺，付款付多或者付少了怎么辦？

所以我們需要有長遠的技術視角。現在在某些場景下，智能體已經可以比較準確地解決問題，但是在某些要求特別精準的環境里，我們可能要期待未來的技術來解決這些問題。

關于365行AI落地方案

AI技術的落地應用不僅限于科技領域，它已經滲透到各行各業，成為推動產業升級的重要力量。因此，“365行AI落地方案”主題策劃應運而生，我們尋找各行各業中成功應用AI技術的案例和方案，分享給更多的產業內人士。

—?完?—