1分鐘內完成報銷核對，微軟AI Day現場展示Copilot生產力革命

明敏 2024-06-16 15:50:47 來源：量子位

西風 發自 凹非寺

量子位 | 公眾號 QbitAI

微軟Build大會前腳剛放出一籮筐生產力革命最新進展：自定義Copilot、Team Copilot、Copilot擴展……

這兩天在微軟AI Day上，Copilot到底是如何提升生產力的，直接被搬到了臺面上現場演示。

假設你的身份是一名公司財務，老板讓你1分鐘內完成報銷核對，現在你有一個Excel，其中有公司報銷單、銀行賬單這兩個sheet，要如何在一分鐘內迅速核對完？

別著急，打開具有Copilot for Finance的Excel賬號，就會發現在菜單欄右側多出了一個Copilot for Finance的圖標：

微軟亞洲區Microsoft Azure策略運營總經理康容表示：

以生成式智能為代表的新一代AI技術創新正在加速演進，在今天的Scaling Laws下，AI技術的能力大約每六個月內就會翻倍增長。

與此同時，如何讓技術成果對齊行業、企業的實際業務需求，加速技術能力的落地轉化，助力更多客戶加速智能化轉型與創新，成為當前微軟最關注的業務領域。

PS：

最新消息，微軟還將與Cognition攜手，把AI程序員Devin帶給客戶，來完成代碼遷移和現代化項目等復雜任務。作為雙方協議的一部分，Devin將由微軟智能云Azure提供支持。

AI時代，報表可以幫老板寫報表

微軟在北京舉辦的以“共創AI創新，智啟無限可能”為主題的Microsoft AI Day活動中，集中展示了在生成式智能技術加速發展普及的過程中，微軟取得的最新技術突破與進展。

并同步更新了在Microsoft Build 2024全球開發者大會上發布的一系列Azure AI新服務與新功能、加速壯大的Microsoft Copilot智能副駕駛(? )技術棧，以及用以幫助企業開發者打造專屬Copilot智能副駕駛(?)的Microsoft Copilot Studio等一系列開發工具與平臺服務等。

微軟亞洲區Microsoft Azure策略運營總經理康容介紹，Azure AI方面，GPT-4o現已加入Azure AI Studio。

同時Azure AI Studio還提供Coherence、Databricks、Deci、Meta、Mistral AI、Snowflake等大模型服務支持。

微軟開發的Phi-3系列“小”模型最新推出的全新多模態模型Phi-3-vision，也可使用。開發者還能在Azure AI Studio中構建和定制模型。

除此之外，陶然還展開分享了微軟的Copilot愿景。

首先，Copilot是個人的智能副駕駛(?)，微軟用Copilot打通了自家辦公產品線，讓個人實現生產力的提升。

在此基礎之上，微軟的最終目的是讓Copilot深入企業業務場景，實現部門級別的Copilot產品落地和業務能力的提升。

除了開頭所展示的Demo，現場還展示了Copilot的更多功能，例如用Copilot做報表：

在AI時代，報表也可以幫老板寫報表了。

在眾多服務基礎之上，微軟也透露了目前與企業的合作情況。

例如，攜程采用Azure OpenAI服務為旗下Trip.com海外網站提供面向海外39個國家的多語言服務，為海外旅行者打造自動化客服機器人和郵件咨詢系統，還進一步借助Azure OpenAI服務開發了高質量的智能旅行對話機器人TripGenie。

TripGenie能夠自動搜索、整合Trip.com海外平臺上的實時旅行線路、航班、酒店等信息，根據境外客戶提出的旅行需求和預算，自動設計出最佳行程計劃。

在微軟支持下，TripGenie的構建周期僅用時兩個月，目前可提供英、日、韓及繁體中文服務。

聯想選擇引入Dynamics 365 Sales作為全球統一的銷售管理系統。

Dynamics 365 Sales能夠整合不同來源的新老業務系統與業務流程，并集成了銷售協作與AI功能，讓全球70%的聯想銷售團隊得以實時記錄客戶互動活動、即時共享銷售信息，為客戶提供更加主動、個性化的服務體驗。

麥當勞中國選擇微軟為量身定制了整套智能化創新解決方案，包括由Azure云平臺提供自然語言交互、生成式智能、機器學習等企業級的智能化服務；以融入Copilot智能副駕駛(?)的Microsoft 365為基礎，構建高效的員工協作平臺；通過GitHub Copilot智能副駕駛(?)加速IT開發和系統運維，提升IT系統及業務應用開發迭代效率等。

麥當勞中國南京創新中心成立“AI-Lab”，將智能技術引入麥當勞中國“漢堡大學”，為20萬名員工提供職業發展與技術技能培訓。

端上做應用，小模型又快又劃算

會后，微軟亞洲區Microsoft Azure策略運營總經理康容、微軟大中華區首席運營官陶然回答了大家感興趣的一些問題。

量子位在不改變原意的基礎上，對部分問答進行了整理。

Q：您講到Scaling Laws，參數越多性能越好。那對于小模型，怎樣能達到很好的推理能力？主要的原理是什么？

陶然：第一，我們在云端大模型開放兼容并蓄；第二，在端側其實很多場景都需要用小模型的能力。您剛才講Scaling Laws也好，性能也好，隨著時間的演變和算力不斷加持，以及我們對于數據和算法的調優，它的質量肯定是穩步提升。

大模型在往前走，但微軟研發的Phi小模型為什么能夠實現用更低的成本和更小的size實現更高的質量？

第一個關鍵在于算法，微軟有幾十年的技術研發實力。

第二是數據質量，微軟采取了一個Synthetic Data的訓練模式。通過和高質量，甚至是超高質量合成數據去實現Phi的小模型，用更小的size實現更高的性能。

在微軟看來，小模型的場景正在不斷分化。小模型并不是說，只幫我寫詩、作畫就夠了。小模型也可以有多模態，也可以變成行業定制的模型。小模型和行業數據和企業業務場景的集成即將會變成更多的強需求。

Finetune一個大模型非常痛苦，有的時候也不一定達到效果。但小模型不一樣，企業業務數據可以更加高效實現常用場景下的Finetune，以及一些更好的embedding。

然后是復雜場景，比如真的是需要Agent，繼續交給云端大模型去完成。但是也可以把重用、常用、高頻、低延遲的場景交給小模型，這就是我們現在看到的行業發展的一些趨勢。

康容：我完全同意陶然講的。不是小模型是不是會把大模型取代的問題，而是我們認為未來會有多模型的合作。各個模型有不同的優勢。

比如沒有網絡的場景，肯定小模型有優勢。而對于非常復雜的項目或場景，要做大量自然語言翻譯，就要走大模型那一步，消耗大量的數據去理解，小模型“吞”不了那么多。如果你要快速在端上做基本的應用，小模型又快又劃算。

Q：Copilot Studio最近推出新功能可以自定義Agent，底層用的哪些技術？

陶然：Copilot Studio不是一夜之間出現的全新獨立技術產品，而是基于微軟過去幾十年在商業應用領域的云端的Business Applications積累快速迭代、快速生成的結果，比如Dynamics365 for Sales、for Finance、for Operation，傳統意義上理解的云端CRM、云端的ERP、云端HR系統，這些系統讓微軟可以快速打造Copilot。

基于我們對企業業務流程、數據、系統的理解，可以快速找到企業如何把核心的CRM、ERP、財務的系統做智能化改造的方法，很多企業都是在這個基礎上連接AI的layer。

Copilot Studio就是基于這樣的基礎框架實現產品的研發和迭代。產品背后本身集成三大核心能力：第一，微軟ERP、CRM和云端Dynamics365的能力；第二，結合了OpenAI大模型能力；第三，結合對于Agent、Copilot生態的理解以及生態的滲透。

Q：對于大模型在企業落地，一種思路是把大模型的能力跟企業私有數據結合，另外一種思路是用小模型，也就是Phi-3的思路。您認為哪種思路更好？

陶然：微軟全球和微軟中國每天與眾多客戶探討大模型的應用落地。根據我們的觀察，沒有哪種技術路線是絕對對或錯的，關鍵在于是否適用以及相應的成本。

大模型與企業數據的集成是一個平衡的決策過程，需綜合考慮成本、數據質量、數據量、模型的成熟度和復雜度等因素。如果企業預算充足，當然可以不計成本地購買數據、進行訓練和推理。

康容：甚至訓練自己的大模型。

陶然：企業都希望以高效且成本可控的方式實施方案，但這需要實際評估。

例如，若客戶希望對GPT模型進行微調，但只有一萬行數據，對于擁有1750億參數的GPT模型而言，一萬行數據無法顯著影響其推理過程，因此無法實現預期效果。然而，如果通過添加企業數據集，如RAG技術，就能在大模型進行數據輸入和輸出時，整合企業數據集并生成Embedding數據集。

微軟提供了多種技術選擇，例如在全球范圍內開源的Semantic Kernel，任何企業都可以通過編程實現RAG和Embedding數據集成，并通過微軟網站下載使用。

同時，微軟也支持開源，可以使用第三方開源的RAG模型和編程開發SDK。最終，我們需要討論數據量和數據質量的問題。如果國內客戶有此類需求，微軟中國可以幫助客戶進行實際評估，選擇成本和效能最優的技術路線，以推進項目進展。

Q：小模型相比大模型有何優劣？

陶然：同樣去做Embedding與Fine-tuning，小模型的成本大多情況下比大模型低。

應用場景是關鍵，如果希望小模型幫忙完成寫詩作畫，可以把企業內部寫詩作畫的信息導入，然后它就可以根據上下文完成任務。

小模型跟大模型有能力上的差異，比如微軟的Phi-3，雖然我們盡可能把它的每一個能力象限往往前延申，但跟GPT4、GPT4o相比，肯定有些地方是缺失的。

針對不同場景有的放矢去做一些Embedding和Fine-tuning、RAG，可以更加事半功倍。小模型和大模型一樣，第一，可以定制化和集成；第二，定制化集成的東西可以到設備里去；第三，找到合適的場景。