北大數學課，啟用AI助教

衡宇 2023-10-25 13:11:27 來源：量子位

衡宇 發自 凹非寺

量子位 | 公眾號 QbitAI

這門北大數學課，學生和老師竟然都在用AI“摸魚”？！

不僅如此，老師還是主動推薦你用，“方便跟上授課進度”。

原來，這是一位北大數學老師專門構思并落地的AI助教，不僅能當學生的課后助理，還能當老師的貼心秘書。

對學生來說，學校的冗長教案看不懂，直接扔給AI助教，馬上就能劃好重點，真·喂飯喂到嘴邊。

而對老師來說，一拖、一拉、一拽，3步就能把自己的課程教案丟給AI助教，省去了對著人類助教大費口舌的時間。

因為使用絲滑，這個AI助教被北大數院21級本科生劉梓豪起名為Brainiac Buddy，意為“那個聰明又勤奮的家伙”（doge）。

不賣關子了，這門課叫《圖像處理中的數學方法》，開課老師是北京國際數學研究中心教授、國際機器學習研究中心副主任董彬。

整個Brainiac Buddy，由董彬團隊和校外公司Answer.Ai團隊聯合打造。

在與量子位的交流過程中，董彬表示：

OpenAI創始成員Andrej Karpathy之前講未來是Agent Base，我深以為然。
所以想在AI助教上試試，能不能實現個性化、定制化和互動式，以此提高教學質量。

基于不同prompt“一鍵變身”

Brainiac Buddy（以下簡稱BB），基于GPT-4開發。

團隊針對數學課程進行了重點優化，首先拿來試手的就是《圖像處理中的數學方法》這門課。

簡而言之，通過學習和分析課程大綱、參考書、講義和代碼示例，BB不僅專業知識拔尖，“大腦”也已經是數學老師的形狀了。

親身上手體驗一下~

登陸后，以《機器學習》第一章緒論章為例，可以看到如下的界面：

BB界面共有三個分欄：

最左側，是關于本章節課件的演示文檔（支持多種格式），章節相關的附件及掛載的知識庫；中間欄呈現了課件文件的渲染，提供在線瀏覽功能；最右側則是與BB的對話界面，可以與課件、知識庫進行問題的討論以幫助學習了解課程內容。

在右側分欄直接提問，可以從embedding教案后的課程知識庫中檢索出該問題的解答。

眾所周知，大模型具有通用知識，但針對具體的領域可能不是很精準。

于是基于大模型的基座模型，當前BB是基于GPT-4，把課程存儲到向量數據庫中，方便學生在學習知識的過程中，得到大模型的支持，幫助他們分解知識難點，使不同基礎的學生都可以得到適合自己的解讀方式。

不過董彬也談到，作為研究者，其實是比較喜歡大模型幻覺（hallucination）的，“因為幻覺和創造/創新其實只有一線之隔。”

通過不同的prompt，BB能夠調用不同的具體服務。

BB提供給教師最大的靈活度，讓他們能夠充分利用大模型優點的同時，給予最大程度的自定義prompt，讓課程的交互性和交互過程按照不同的課程，呈現不同的效果。

比如調用測試模式：

又或者總結文件主要內容：

整體感受，BB沒有什么花里胡哨的UI界面，使用起來和一般的AI Chatbot比較類似。

“AI Agent=大模型+記憶+主動規劃+工具使用，基本上呈現出的就是現在大家看到的這個樣子。”董彬說道。

至于后續對BB還有什么完善（的想法），他表示，希望能讓BB能圍繞一個數據庫來準確提取信息，并根據問題判斷，到底應該用數據庫信息來回答問題，應該調用內外部工具，還是調用通用能力回答問題。

AI 輔助數學學習

目前AI工具這么多，為什么要專門做這樣一個AI助教？

其中當然有現實的掣肘。

最基礎的，就算只把《圖像處理中的數學方法》這門課的教案丟給GPT，也已經超出了GPT系列的token限制。

但更多來源于董彬本人的認知和實踐。這也是他尋求與校外公司Answer.AI合作，做出BB，并實際運用到課程中的主要原因。

董彬雖然是數學專業出身，但2016年起轉向機器學習，現在的主要研究領域為科學計算、機器學習及其在計算成像和數據分析中的應用。

他自稱從大模型大顯威力的第一天起，就是其忠實追隨者，根本沒有國內外那些大學“先禁用再應用”的心態轉變。

尤其是GPT-4問世后，董彬成為了大模型高頻率的重度依賴用戶，“它很大的作用，不是幫我干雜事，而是我通過它來學東西”。

董彬的切身體驗是，只要問題問得好，回答的質量就會非常高。無論何時何地，只要有突發奇想，就可以跟領域內最博學的“人”交流，并且從不覺得他提出的問題蠢。

有了這樣的體驗，董彬腦子里冒出一個念頭：

不行，要給我的學生也配備這樣一個工具。

“學習就是跟作者交流，聽作者講課，接受知識的形式是非常被動的。”董彬解釋，“聽課或看書的過程中，會產生各種各樣的疑問和想法。但老師的認知、精力、耐心都是有限的。”在他看來，如果無法跟作者交互，學習就會變得非常低效，特別是還無法1v1答疑解惑的情況下。

但AI 助教，或者說大模型，就遍讀全人類知識，且精力和耐心永遠充沛，能夠“極大程度上提升教育的效率，以及個性化和定制化。”

有了自己的想法，恰巧教過的兩位學生——數學學院21級本科生劉梓豪和20級本科生唐藝銘，想跟隨董彬做一些暑期項目。

于是，BB被提上日程。

這時候董彬了解到了Answer.AI。這家創業公司旨在利用智能助教（AI Tutor）讓廣大學生享有到最優質的教育資源和最好的學習體驗。他們的教育產品發布后，在很短時間內取得美區iOS教育榜單第三名的成績。

恰巧，他們也希望與各個學校和機構一起探索全新的教學方式，并提供成熟的產品和技術方案。

和Answer.AI接觸后，董彬帶著劉梓豪和唐藝銘與其工程師團隊交流了自己的想法，雙方一拍即合。

而后，Answer.AI 為BB提供了產品化方案。并且在工程師的幫助下，最終完成了BB的計劃、設計、數據處理、自然語言編程、UI制作等。

后續可能做“學會提問”主題在線分享

最后，正式介紹一下這位熱情邀請學生在課程中使用AI助教的數學老師。

董彬，北京大學北京國際數學研究中心長聘教授、國際機器學習研究中心副主任、國家生物醫學成像科學中心研究員。

2003年，他在北京大學數學科學學院拿下學士學位，兩年后，在新加坡國立大學數學系獲得碩士學位。

后來，董彬又遠赴UCLA數學系，并于2009年獲得博士學位。

他表示，希望更多的同僚同儕參與使用BB，能夠從中得到更多反饋和啟發。

根據目前得到的一些反饋來看，最令董彬“痛心疾首”的，就是學生在對AI提問能力上的欠缺——既不愛提問題，也不擅長提問（prompt）。

普遍來講，學生總是愛直接把問題本身丟給AI。

這本身沒什么問題，但還達不到事半功倍的效果。

在量子位的追問下，董彬分享了自己常用的提問模式。在他每一次針對具體問題的提問中，往往含有好幾步過程：

• 首先，先告訴AI這個問題的背景，比如自己是在做什么的時候、看到什么東西、如何產生了這個問題；
• 其次告訴AI，這個問題的難點在哪？可能和哪些已知問題相關，也會談一下為什么自己覺得這是個好的問題；
• 然后會談談自己對問題的初步思考，以及對自己現有想法不滿意的地方，并在期待什么樣的更好的想法。
• 最后再問AI，能不能幫忙提供一些建議。

相比于直接把問題本身丟給AI，然后不停追問，這樣的方式可能兩三輪就能很好地解答一個問題。

董彬舉了個近期的例子。

最近，他和基礎數學家何旭華在arXiv上掛了一篇用機器學習輔助數學前沿探索的論文。第二天，何旭華的一位合作者看到論文，發來一封郵件，開頭是“et tu Brutus”。

董彬此前從未見過這個表述，于是去問了Claude。

對比可見，只有完整告訴Claude背景信息，它的解讀才會正確，還給人一種“情商很高”的感覺。

作為AI重度用戶，董彬在日常和做報告時發現，好的提問和不好的提問，得到的答案差異其實有明顯差異。

往后會考慮開設課程或進行在線分享，讓學生學會如何提問。

通過BB，董彬使用prompt的經驗和方法論也可以更方便的沉淀給學生，通過教師功能，可以方便的為每個章節設置獨特的prompt。

據了解，后續BB會為學生提供prompt預設功能，并針對學生提供快捷輸入prompt的功能，以提高使用體驗。

以及現階段，董彬剛在arXiv上掛出了一篇論文《Prompt Engineering Through the Lens of Optimal Control》，有關從最優控制視角解讀交互工程，感興趣的小伙伴可以閱讀一下～

arXiv：https://arxiv.org/pdf/2310.14201.pdf

Answer.ai郵箱：business@answerai.pro