飛象原創(chuàng)（魏德齡/文）連續(xù)三年，每個(gè)新年意識(shí)AI突破都成為了科技行業(yè)的最熱新聞。從ChatGPT到o1，再到今年的DeepSeek。不過與頭兩年OpenAI公司的ChatGPT不同的是，由于開源的屬性，DeepSeek可以在線使用外，也吸引著很多人嘗試進(jìn)行本地化部署，甚至出現(xiàn)了在各大社交分享平臺(tái)上教程一抓一大把的盛況。
DeepSeek掀起本地化部署熱潮
大語言模型的本地化部署絕非什么新鮮事，在DeepSeek之前，Meta AI公司的Llama模型就曾被很多人在個(gè)人PC與智能手機(jī)上進(jìn)行部署。一些廠商在去年也開始將能夠運(yùn)行本地大模型的能力作為賣點(diǎn)，例如榮耀Magic6在發(fā)布時(shí)表示通過搭載第三代驍龍8，設(shè)備支持7B參數(shù)的AI端側(cè)大模型。
隨著DeepSeek在今年年初展現(xiàn)出媲美ChatGPT o1的能力后，加之其開源的屬性，用戶可以通過以往的本地部署方式來獲得離線的AI能力。配合部署檢索增強(qiáng)生成還能構(gòu)建起基于自身需求的知識(shí)庫，方便隨時(shí)進(jìn)行信息檢索與查詢。同時(shí)，不用擔(dān)心敏感數(shù)據(jù)上傳至云端造成泄漏。
面向不同的設(shè)備算力需求，DeepSeek目前提供了1.5B、7B、8B、14B、32B、70B、671B不同參數(shù)量級(jí)的大模型。一般而言，目前市面上的旗艦手機(jī)可以部署至7B，電腦一般可以在8B和14B間抉擇，有超高硬件實(shí)力的電腦可以跑32B。而更高參數(shù)量級(jí)的模型多會(huì)部署至云端，通過更強(qiáng)的算力來運(yùn)行，這也是如今各大國內(nèi)云平臺(tái)正在紛紛宣傳自身已經(jīng)提供DeepSeek能力支持的原因之一。
工作能力與RAM強(qiáng)相關(guān)
參數(shù)量與最終本地AI的實(shí)際工作能力存在正相關(guān)。例如同樣是調(diào)取知識(shí)庫中的資料來撰寫報(bào)告，14B會(huì)比8B的模型在信息理解與生成內(nèi)容質(zhì)量上有著明顯提升，致幻率也會(huì)大幅降低。同理，32B大模型在工作能力上的提升會(huì)更加顯著。
而可以運(yùn)行模型的參數(shù)量大小與智能手機(jī)的RAM又存在正相關(guān)�？陀^上說，移動(dòng)設(shè)備由于CPU與GPU共享內(nèi)存，所以更占據(jù)優(yōu)勢。由于目前手機(jī)一般最低8GB起步，來應(yīng)對多線程任務(wù)與多媒體需求，所以運(yùn)行7B模型完全不在話下。但是，以蘋果iPhone 15 Pro系列起的RAM僅為8GB的機(jī)型而言，由于其他線程仍需占用部分資源，所以其難以運(yùn)行8B的模型。
非X86架構(gòu)的PC也在本地AI部署中獲得了能夠部署更大參數(shù)量級(jí)模型的優(yōu)勢，由于同樣擁有共享內(nèi)存的機(jī)制。以16GB的Macbook為例，其在不同時(shí)運(yùn)行其他過重任務(wù)的情況下，可輕松運(yùn)行14B的模型。但對于擁有16BG內(nèi)存的X86 PC而言，無疑還需要看配備的GPU規(guī)格而定。
這也再次印證了蘋果iPhone 15系列數(shù)字版機(jī)型無緣AppleIntelligence的原因，由于其僅配備6GB RAM，產(chǎn)品規(guī)劃時(shí)或許蘋果還未謀劃自身的AI布局，導(dǎo)致這部剛剛上市一年的機(jī)型，卻無緣后續(xù)的AI功能升級(jí)。傳聞中即將發(fā)布的面向入門級(jí)市場的iPhone SE 4，有消息顯示，為了滿足端側(cè)AI的功能需要，將RAM同樣提升至了8GB。
手機(jī)RAM能否還有加碼空間
實(shí)際上，旗艦手機(jī)的RAM配置早已處在一個(gè)多年不變的“卷不動(dòng)”狀態(tài)。甚至當(dāng)三星在2022年發(fā)布Galaxy S22 Ultra時(shí)，將起始RAM版本從上代的12GB下降至8GB。而在該時(shí)間節(jié)點(diǎn)前，Android手機(jī)曾經(jīng)一度迎來了RAM的爆發(fā)式增長，以三星手機(jī)為例，Galaxy S8國際版的標(biāo)配RAM為4GB，當(dāng)時(shí)僅專門為國行提供了6GB版本。到了Galaxy S10系列，8GB RAM則成為標(biāo)配，要知道在Galaxy S9系列中，還依舊在延續(xù)與S8相似的RAM配置策略。在Galaxy S20系列中，12GB RAM更是成為起步配置，Galaxy S20 Ultra更是加碼到了16GB RAM。當(dāng)時(shí)，甚至有分析人士斷言，16GB的普及將只是時(shí)間問題。此外，部分廠商面向中國市場，還會(huì)提供更大RAM版本的特供機(jī)型，來滿足推送機(jī)制更加多元化的國內(nèi)使用環(huán)境。當(dāng)經(jīng)過當(dāng)時(shí)市場的最終檢驗(yàn)，8GB成為一段時(shí)間以來的最合理標(biāo)配，近年來，國內(nèi)手機(jī)廠商又才將標(biāo)配RAM提升至12GB。
而隨著本地AI部署，從廠商的概念演示，變?yōu)樵絹碓蕉嘤脩艨释麌L試的新功能，無疑也對于更強(qiáng)工作能力、更低致幻率的更高參數(shù)量級(jí)的大語言模型也產(chǎn)生了更大的需求，當(dāng)下部分Android旗艦機(jī)型所配備的16GB RAM，無疑為運(yùn)行14B大模型提供了重要的前提條件。
蘋果方面的iOS生態(tài)也很可能正在改變固有的以較小RAM來實(shí)現(xiàn)產(chǎn)品流暢體驗(yàn)的策略。根據(jù)網(wǎng)上顯示，目前蘋果Apple Intelligence部署在本地設(shè)備的參數(shù)量級(jí)為3B，測試得分可高于諸多7B參數(shù)的開源模型。顯然，后續(xù)如果繼續(xù)提升參數(shù)量，所產(chǎn)生的功能提升不容小覷。無巧不成書的是，已經(jīng)有外媒透露，今年發(fā)布的iPhone 17系列的RAM將會(huì)提升至12GB。畢竟在一個(gè)理想的使用狀態(tài)下，智能手機(jī)不僅要運(yùn)行大模型來帶來體驗(yàn)變革，還要同時(shí)運(yùn)行其他功能。
智能手機(jī)或許將迎來又一個(gè)RAM加碼的時(shí)間節(jié)點(diǎn)。
