電子發(fā)燒友網(wǎng)報(bào)道(文/周凱揚(yáng))除了傳統(tǒng)的智能座艙LLM模型外,不少垂直領(lǐng)域的大模端側(cè)大模型也在飛速發(fā)展,尤其是型混在汽車領(lǐng)域,越來(lái)越多的合算車企開(kāi)始考慮在車內(nèi)引入AI大模型。如今汽車此前由于車端算力的力還限制,大模型很難運(yùn)行在智能座艙上,全靠而全程聯(lián)網(wǎng)跑的輸出座艙大模型在使用體驗(yàn)上又有所欠缺。然而,智能座艙隨著新一代智能汽車算力硬件紛紛進(jìn)入下一階段,大模端側(cè)如今智能座艙開(kāi)始在新車型上鋪開(kāi)。型混
理想Mind GPT
去年年底,合算理想發(fā)布了最新的力還OTA 5.0版本,率先為Max車型升級(jí)了ADMAX 3.0智能駕駛。全靠然而,輸出這一次OTA還包括了最新的智能座艙智能空間SS 3.0,為Max、Pro和Air車型正式引入了Mind GPT這一智能座艙多模態(tài)認(rèn)知大模型。
理想從零構(gòu)建了Mind GPT的原始基座模型,并采用了自研的TaskFormer神經(jīng)網(wǎng)絡(luò)架構(gòu),Mind GPT使得理想語(yǔ)音助手“理想同學(xué)”獲得了聽(tīng)感和自行能力全面升級(jí),并基于其重點(diǎn)場(chǎng)景,定制了111個(gè)領(lǐng)域、1000種以上的專屬能力,比如理解語(yǔ)義、多語(yǔ)種交流、模糊感知和行程安排規(guī)劃等。
從中文大模型排行榜C-Eval網(wǎng)站上可以看到,12月4日發(fā)布的Mind GPT在當(dāng)時(shí)斬獲了閉源模型第一的成績(jī)。盡管隨后被榮耀、海思和vivo的大模型超過(guò),但Mind GPT目前依然以89.7的成績(jī)高居第四的位置。
可以看出,理想Mind GPT對(duì)于硬件的要求并不算高,從理想分享的Mind GPT推理引擎來(lái)看,其推理負(fù)載被分配給了云端GPT和端側(cè)的NPU,從而降低智能座艙的算力要求,使得更多老車型也可以享受到大模型的完整體驗(yàn)。
蔚來(lái)NOMI GPT
蔚來(lái)宣稱NOMI GPT是業(yè)內(nèi)首家純端側(cè)部署的多模態(tài)感知大模型,新的NOMI借由這一大模型,可以在無(wú)需聯(lián)網(wǎng)的前提下識(shí)別數(shù)千種物體,且做到快速響應(yīng),還可以根據(jù)非顏色類磁珠,完成氛圍燈的顏色組合。由于是純端側(cè)處理,NOMI GPT做到了車主隱私數(shù)據(jù)不出車,提高了信息安全性。
之所以能做到純端側(cè),自然離不開(kāi)計(jì)算硬件的支撐。2024款蔚來(lái)全系車型均將采用全新的中央計(jì)算平臺(tái)ADAM,在智艙上搭載了高通最新的驍龍8295智能座艙芯片。在5nm工藝和架構(gòu)優(yōu)化下,8295相較上一代8155在性能上有了巨大的提升,除了通用計(jì)算與圖形處理的CPU和GPU算力分別翻了2倍和3倍外,用于AI計(jì)算的NPU算力也提升了8倍,達(dá)到了30TOPS。
除此之外,蔚來(lái)的ADAM通過(guò)系統(tǒng)級(jí)創(chuàng)新實(shí)現(xiàn)了艙駕融合,不僅可以拓展算力,更可以實(shí)現(xiàn)跨域算力共享。如此一來(lái),類似NOMI GPT這樣的多模大模型端側(cè)部署,就可以調(diào)用來(lái)自智駕芯片Orin X的算力,從而提高CPU、GPU和NPU的使用效率。
寫(xiě)在最后
可以看出,理想和蔚來(lái)在智能座艙大模型上采用了不盡相同的策略,理想的Mind GPT主打讓所有L系列車主都能享受到大模型的智能空間,而蔚來(lái)則是追求極致的硬件算力,把一切推理計(jì)算都留在端側(cè)。這兩種方式都各有優(yōu)劣,未來(lái)隨著更多車企跟進(jìn)智能座艙大模型,我們屆時(shí)將看到究竟何種技術(shù)路線更受歡迎。