實測車載DeepSeek：理財哄娃，做北京旅游攻略，避開喝豆汁兒那種

賈浩楠 2025-04-04 14:56:16 來源：量子位

一凡 發(fā)自 副駕寺智能車參考 | 公眾號 AI4Auto

接入DeepSeek后，理想又為車機自研了一個推理模型：

它能幫你編故事哄孩子，提供買房建議，還能制定旅游攻略，直接篩掉你不想要的體驗。

雖然此前的推理模型也能勝任這些任務(wù)，不過理想自研推理模型有所不同——

它能自主分析，你的問題需要不需要思考，需要深度思考還是短思考。

行業(yè)爭著接入了DeepSeek的當(dāng)下，理想選了一條新路徑，打造了「汽車版DeepSeek」。

汽車版DeepSeek有什么特點？

為什么理想要花大力氣自研推理模型，而不是直接上車DeepSeek？

帶著這些問題，智能車參考第一時間上車“拷問”了一番理想同學(xué)：

不是，你一句“我不喝豆汁兒”，他就真給你做北京一日游攻略啊。

實測「汽車版DeepSeek」

更新理想OTA 7.2版本后，進(jìn)入語音設(shè)置界面會看到一個深度思考的按鈕，就像咱們?nèi)粘Ｓ玫腄eepSeek一樣，點擊打開：

你也可以用語音對話，讓理想同學(xué)幫你打開。

不過與常見推理模型不同的是，即便打開了深度思考開關(guān)，理想同學(xué)也不會每條對話都陷入沉思，而是模型自主決策要不要思考，要思考多久：

• 車控命令「不思考」，理想同學(xué)直接執(zhí)行
• 簡單需求「短思考」，車機上方會顯示生成中

• 復(fù)雜需求才「深度思考」，理想同學(xué)還會說「emmm，我得想想」

實際體驗下來，像“我好熱啊”、“腰好酸”、“還有多久到目的地”這類對話，即便是處于「深度思考」模式下，理想同學(xué)也會分別打開空調(diào)、座椅按摩、顯示目的地，瞬間響應(yīng)，無需思考。

而對于車主的一些復(fù)雜需求，比方說，你想去北京旅游，但又不想品鑒老北京豆汁兒，那就直接把定制攻略的需求說給理想同學(xué)。

稍等幾秒，私人定制的旅行攻略就出來了，精確到每個小時去哪兒玩，吃什么(pass掉了豆汁)，花多少錢。：

家孩子在車上不睡覺鬧騰，你可以讓TA現(xiàn)編個故事哄哄孩子：

老婆打電話溝通房子買哪兒，你也可以問問理想同學(xué)：

這都是理想同學(xué)深度思考后給出的答案，而且比常見的推理模型響應(yīng)要快一點。

自主選擇思考長度，更快的深度思考，這背后是怎么實現(xiàn)的？

「汽車版DeepSeek」的實現(xiàn)過程

理想此前自研的MindGPT大家都比較熟悉了，「汽車版DeepSeek」實際就是以MindGPT為基座模型，進(jìn)行了后訓(xùn)練，指令微調(diào)和強化學(xué)習(xí)多階段優(yōu)化。

首先，由于模型能力和數(shù)據(jù)質(zhì)量直接相關(guān)，所以理想在訓(xùn)練數(shù)據(jù)上做了非常細(xì)致的工作。

據(jù)介紹，理想基于過去已有的1100多個技能體系，根據(jù)問題復(fù)雜度和場景，對數(shù)據(jù)做了精細(xì)歸類。

數(shù)據(jù)類型主要分三種：

第一類，適合做長推理的多輪對話樣本，規(guī)模在數(shù)十萬級，用DeepSeek去產(chǎn)出思考過程，然后將產(chǎn)出結(jié)果作為訓(xùn)練深度思考能力的數(shù)據(jù)。

第二類，不適合做長推理，但是仍然需要短思考的數(shù)據(jù)，還是借助DeepSeek加工形成的短思考數(shù)據(jù)，規(guī)模大概在十萬級。

第三類則是以往存儲的不需要思考的數(shù)據(jù)，這部分?jǐn)?shù)據(jù)最多，據(jù)了解規(guī)模在百萬級，理想從中做了抽樣。

這三類數(shù)據(jù)最終合在一起對模型做后訓(xùn)練，模型就具備了長思考能力，同時也會自主決策是否需要思考，以及思考長短。

完成模型訓(xùn)練后，理想又遇到了另一個痛點：

如何讓模型在深度思考的同時，又能響應(yīng)的更快？

理想關(guān)注的首要指標(biāo)是首token響應(yīng)時間，最快可達(dá)0.3秒。

背后主要是三項措施：

• PD分離，將Prefill和Decoder分離部署
• 由于Prefill階段對首Token影響最大，這一階段采用高性能Attention機制
• 多卡并行推理工程優(yōu)化

看上去實現(xiàn)過程并不復(fù)雜，但實際上理想遇到了很多挑戰(zhàn)，春節(jié)復(fù)工歸來就定下了4月初上新的時間點，然后開啟沖刺，時間緊，任務(wù)重。

為什么理想車端不直接用DeepSeek，而是自研推理模型？

為什么自研車端推理模型？

據(jù)理想汽車透露，其打造車端推理模型有內(nèi)外兩大因素：

據(jù)介紹，實際上此前理想的車主就有這方面需求。有的車主日常會問車機一些時事新聞，然后想了解背后的投資建議，比如最近瘋漲的金價。

也有車主上班路上突然接到通知要開會，但是對會議主題涉及的市場又不夠了解，想讓模型歸納相關(guān)信息進(jìn)行分析。

過去的模型不能滿足車主這方面的需求，理想便考慮上車推理模型。

然后DeepSeek火爆海內(nèi)外，加速了上車過程。

DeepSeek強大的破圈效應(yīng)讓很多用戶第一次了解到AI的威力，原來AI可以深度思考，提供如此強大的分析能力。

有的車主就直接來問理想：

你們什么時候接入DeepSeek？

這樣的問題，相信業(yè)內(nèi)不只有理想收到了。這也是為什么春節(jié)復(fù)工后，一眾車企爭先宣布接入DeepSeek。

實際上，理想同學(xué)App此前也接入了滿血版的DeepSeek。

那為什么還要理想要在車端自研推理模型呢？

理想汽車認(rèn)為，DeepSeek更傾向電腦和手機等終端場景，車載場景更加垂直，不管是車主的相關(guān)知識需求，還是對話要求的響應(yīng)速度，都需要打造一個「汽車版DeepSeek」。

現(xiàn)有的推理模型，一般思考時間都比較長，而且思考后輸出的內(nèi)容也很長，但車主并不是每次對話都需要一個很豐富的內(nèi)容作為回應(yīng)。你是個好模型，只是咱們不合適。

所以理想認(rèn)為，需要一個「汽車版的DeepSeek」，能提高模型思考能力的同時，也能更靈活快速地響應(yīng)車主對話，避免車主問一個問題無法得到及時回復(fù)，而且回復(fù)顯得冗長。

模型自主決策是否思考和思考長度，這區(qū)別于目前的主流方案。

這一特性有希望推廣到其他場景嗎？

理想汽車也對未來趨勢做出了展望，這很可能會是后續(xù)AI助手應(yīng)用的一個發(fā)展方向。

結(jié)合當(dāng)前行業(yè)進(jìn)展，以及理想對理想同學(xué)的追求來看，或許理想未來會在端側(cè)部署大模型，以加快響應(yīng)車主相關(guān)需求。

也有分析指出，由于英偉達(dá)Thor即將上車，更充沛的算力和前瞻設(shè)計，也為未來實現(xiàn)「艙駕一體」提供了可能。

會深度思考的理想同學(xué)，是不是朝著李想此前提出的「硅基家人」，又近了一步doge？

理想自研推理模型，解決你的痛點了嗎？