DeepSeek本地化部署痛點(diǎn)

2025年1月，DeepSeek-R1大模型一經(jīng)發(fā)布，便在人工智能領(lǐng)域掀起了千層巨浪。對(duì)比以往的AI大模型，其性能強(qiáng)悍，且“更懂人”，許多人的生活、工作習(xí)慣也在使用其過(guò)后，得到了徹底的顛覆。然而網(wǎng)頁(yè)版的DeepSeek在我看來(lái)并不是完整版的，其存在穩(wěn)定性較差（服務(wù)器繁忙），且無(wú)法持續(xù)性進(jìn)行訓(xùn)練等問(wèn)題。本地化部署才能發(fā)揮其100%的強(qiáng)勁實(shí)力，舉個(gè)例子網(wǎng)頁(yè)版相當(dāng)于“通用公路”，而本地化部署則相當(dāng)于“專屬高鐵”。

然而要實(shí)現(xiàn) DeepSeek的本地化部署，卻也不是那么簡(jiǎn)單，對(duì)于普通人來(lái)說(shuō)，最大的門檻莫過(guò)于硬件方面的限制，組裝一臺(tái)能夠流暢運(yùn)行DeepSeek32B以上模型的電腦，費(fèi)用已經(jīng)不菲，勸退不少人。即便真的組裝了主機(jī)進(jìn)行部署，也存在難以隨身攜帶電腦，隨時(shí)使用等問(wèn)題。

最佳解決方案？

但身為一名程序員，不嘗嘗鮮，屬實(shí)難受，在上下翻找之后，貌似也發(fā)現(xiàn)了最佳解決方案，那便是云電腦。

云電腦是一種基于云計(jì)算技術(shù)的服務(wù)，它將電腦的硬件資源（如計(jì)算、存儲(chǔ)等）放在云端，用戶通過(guò)互聯(lián)網(wǎng)連接終端設(shè)備即可訪問(wèn)和使用這些資源，體驗(yàn)比傳統(tǒng)電腦更高配置的算力，能夠滿足圖形渲染、大型游戲體驗(yàn)、AI建模等需求。

省去了攢錢組裝的過(guò)程，即開(kāi)即用，無(wú)需下載，實(shí)現(xiàn)了硬件自由。還可跨設(shè)備無(wú)縫連接，上班摸魚用電腦訓(xùn)練大模型，下班通勤路上用手機(jī)查看進(jìn)度，到家后使用平板繼續(xù)調(diào)試。為了選擇一款合適的云電腦，我也嘗試了幾款市面上比較熱門的主流產(chǎn)品，做了簡(jiǎn)單的對(duì)比測(cè)試，以下是個(gè)人體驗(yàn)報(bào)告：

一、主流云電腦介紹

1、ToDesk云電腦

ToDesk相信很多人都不陌生，作為消費(fèi)級(jí)遠(yuǎn)程控制王者，幫助了許多職場(chǎng)人士進(jìn)行多平臺(tái)遠(yuǎn)程協(xié)作，大幅提升了工作效率，以其高清的畫質(zhì)，流暢的體驗(yàn)而著名。現(xiàn)如今也帶著強(qiáng)勁的技術(shù)實(shí)力，向AI生產(chǎn)力工具進(jìn)行了轉(zhuǎn)型。

ToDesk云電腦提供強(qiáng)大算力的云端服務(wù)，具備硬核性能、旗艦級(jí)配置，擁有超清畫質(zhì)、超低延時(shí)、多端共享等特點(diǎn)。在配置方面，提供了云圖形工作站、高性能云電競(jìng)、AIGC藏寶地三大類型劃分，可選擇電腦配置，以包時(shí)或計(jì)時(shí)方式進(jìn)行收費(fèi)，可按小時(shí)、天、月、年進(jìn)行購(gòu)買，較為靈活。

目前在云電競(jìng)板塊也提供了一些活動(dòng)優(yōu)惠碼，初次體驗(yàn)，價(jià)格更低。

2、青椒云

青椒云是瑞云科技推出的一種安全云桌面服務(wù)，涵蓋公有云桌面服務(wù)和私有云桌面，可以幫個(gè)人和企業(yè)快速構(gòu)建、高效管理云上辦公環(huán)境，賦能視覺(jué)設(shè)計(jì)、影視制作、教育培訓(xùn)、政企辦公等行業(yè)，打造云服務(wù)生態(tài)閉環(huán)。

青椒云電腦根據(jù)配置劃分了AIGC、普通辦公、游戲娛樂(lè)、設(shè)計(jì)制作四大類型。

計(jì)費(fèi)方式包含了計(jì)時(shí)、包天、包月、時(shí)段，四種類型，標(biāo)準(zhǔn)版的AIGC開(kāi)機(jī)小時(shí)費(fèi)3.8元，僅做試用的話，價(jià)格稍高。

3、無(wú)影云

無(wú)影云電腦隸屬阿里云旗下，個(gè)人版包含日常工作生活中使用電腦必需的功能，主要適用于個(gè)人和家庭，支持在客戶端內(nèi)實(shí)現(xiàn)“購(gòu)買、管理與使用”一站式體驗(yàn)，具備配置靈活、接入方便、兼容外設(shè)、數(shù)據(jù)安全等優(yōu)勢(shì)。能滿足學(xué)生網(wǎng)課、家庭電腦、日常辦公、團(tuán)隊(duì)協(xié)作等使用需求。

無(wú)影云電腦個(gè)人版主要以月卡、季卡、年卡方式進(jìn)行銷售，購(gòu)買產(chǎn)品后，需手動(dòng)進(jìn)行配置的選擇，以此來(lái)判定計(jì)費(fèi)規(guī)則，如黃金款產(chǎn)品40核時(shí)，可支持4核8G開(kāi)機(jī)10小時(shí)，或8核16G開(kāi)機(jī)5小時(shí)。

小結(jié)：三款云電腦產(chǎn)品計(jì)價(jià)方式均有所不同，ToDesk云電腦、青椒云的計(jì)價(jià)方式類似，以包時(shí)、計(jì)時(shí)、包月、包年幾種方式來(lái)計(jì)價(jià)。 ToDesk云電腦的計(jì)時(shí)方式，相似配置之下價(jià)格更低更劃算 。而無(wú)影云電腦計(jì)價(jià)方式則類似充值后消費(fèi)的模式，購(gòu)買套餐獲取每個(gè)月的核時(shí)，然后根據(jù)每次連接的所選配置來(lái)扣除，費(fèi)用不穩(wěn)定，以16核32G內(nèi)存的方式來(lái)計(jì)算， 無(wú)影云最低價(jià)套餐每小時(shí)需4元 。

二、云電腦初體驗(yàn)

1、ToDesk云電腦

ToDesk云電腦在AIGC藏寶地選擇相應(yīng)配置，并進(jìn)行購(gòu)買后，便會(huì)在我的電腦中生成對(duì)應(yīng)的新云電腦，等待2~3分鐘初始化后，便可連接進(jìn)入桌面。

在AIGC云電腦中，已經(jīng)為我們提供了一鍵啟動(dòng)DeepSeek插件，通過(guò)查詢ollama，其內(nèi)置了DeepSeek-R1-7B和DeepSeek-R1-32B兩個(gè)模型，支持聯(lián)網(wǎng)搜索。

這里也得做個(gè)小小的科普，B表示模型的參數(shù)量級(jí)，直接影響計(jì)算復(fù)雜度和顯存占用。7B代表70億參數(shù)，32b就代表320億參數(shù)，雖然DeepSeek最高可以達(dá)到671B，但是那體量得是國(guó)家級(jí)研究才用得上，通過(guò)官方性能報(bào)告來(lái)看，DeepSeek-R1-32B已經(jīng)相當(dāng)強(qiáng)悍。對(duì)于普通人來(lái)說(shuō)已經(jīng)完全夠用，足以優(yōu)秀地解決各類高精度任務(wù)，適合超大規(guī)模任務(wù)，如語(yǔ)言建模、大規(guī)模訓(xùn)練等。

2、青椒云

青椒云要使用DeepSeek，需要在購(gòu)買時(shí)，提前選擇好DeepSeek-R1云鏡像。

在購(gòu)買后，便可以到云桌面管理界面開(kāi)機(jī)使用，開(kāi)機(jī)需要等待1~2分鐘進(jìn)入桌面。

進(jìn)入云電腦后，桌面便為我們準(zhǔn)備好了Chatbox，根據(jù)設(shè)置查詢，內(nèi)置了2個(gè)模型——DeepSeek-R1 8b和14b。

3、無(wú)影云

無(wú)影云電腦的啟動(dòng)方式會(huì)較為麻煩一點(diǎn)，需要用戶手動(dòng)進(jìn)行相關(guān)配置，整個(gè)過(guò)程需要選擇配置全新電腦，抑或是導(dǎo)入鏡像。如果沒(méi)去閱讀文檔，很容易選錯(cuò)進(jìn)入配置新電腦。正確的配置方式是導(dǎo)入鏡像，并輸入第三方鏡像分享碼，進(jìn)行系統(tǒng)選擇。

最后需設(shè)置云電腦的配置，此時(shí)便會(huì)決定購(gòu)買的套餐核時(shí)的消耗模式，官方文檔推薦使用的是電競(jìng)模式，但是一小時(shí)的費(fèi)用算下來(lái)實(shí)在是太高了，最低檔的黃金套餐，每月僅40核時(shí)，都不夠跑1小時(shí)。只能以流暢、性能模式進(jìn)行測(cè)試。

在完成選擇后，大概1分鐘內(nèi)，便可以配置成功。成功進(jìn)入到DeepSeek鏡像，通過(guò)查詢得知，無(wú)影云內(nèi)置的模型為DeepSeek-R1 7b和14b。

小結(jié)：在三款云電腦的初步體驗(yàn)中， ToDesk云電腦和青椒云電腦的連接方式接近 ，購(gòu)買后開(kāi)機(jī)便可以直接連接， 無(wú)需多余配置 。而 無(wú)影云 電腦初始化配置較為麻煩， 需要手動(dòng)來(lái)自定義電腦 ，如果沒(méi)有閱讀文檔，容易誤操作。而在遠(yuǎn)程操控云電腦的體驗(yàn)上，三款產(chǎn)品的連接穩(wěn)定性接近，但是在畫質(zhì)方面 ToDesk云電腦和無(wú)影云電腦開(kāi)最高清模式，非常清晰，而青椒云略遜一籌 ，肉眼可見(jiàn)鋸齒感較強(qiáng)，綜合體驗(yàn)ToDesk云電腦較好。

三、本地化模型體驗(yàn)

為了測(cè)試本地化模型的使用，我也是準(zhǔn)備了兩種方法，一種是直接用本地化模型輸出代碼，再經(jīng)過(guò)實(shí)測(cè)，查看代碼可行性。另一種是使用Cherry-Studio構(gòu)建個(gè)人知識(shí)庫(kù)，測(cè)試使用效果。

ToDesk云電腦

首先進(jìn)行最簡(jiǎn)單的測(cè)試，使用32b本地化模型生成代碼測(cè)試，ToDesk云電腦生成網(wǎng)頁(yè)版貪吃蛇小游戲，思考、輸出速度非常迅速。

生成的html頁(yè)面，可直接流暢運(yùn)行，沒(méi)有bug的產(chǎn)生。

Cherry-Studio搭建本地知識(shí)庫(kù)，需要一些準(zhǔn)備工作，首先是使用ollama部署embedding模型。使用cmd命令行，可以看到本地ollama可以正常運(yùn)行，輸入ollama pull shaw/dmeta-embedding-zh，完成下載。

之后進(jìn)入Cherry-Studio軟件中，設(shè)置模型服務(wù)為Ollama模型，選擇shaw模塊為剛才下載的shaw/dmeta-embedding-zh，并勾選上deepseek的32b模型。

接著便可以添加本地知識(shí)庫(kù)，輸入知識(shí)庫(kù)名稱，以及剛才下載的嵌入模型，便可以完成創(chuàng)建。

此時(shí)，便可以往我們的知識(shí)庫(kù)里添加文件，或者是網(wǎng)址、網(wǎng)站、筆記等內(nèi)容，構(gòu)建專屬于自己的知識(shí)庫(kù)。

緊接著，在Cherry-Studio軟件聊天助手里，勾選上知識(shí)庫(kù)，輸入問(wèn)題，便會(huì)返回知識(shí)庫(kù)相關(guān)的信息，如我測(cè)試用的自己寫的選購(gòu)文章，此時(shí)便會(huì)根據(jù)文檔內(nèi)容輸出，耗時(shí)19秒便可以完成深度思考與回答。在回答里，甚至?xí)缴媳砀駥?duì)比，能夠極大方便我進(jìn)行對(duì)比分析。

如果錄入更多專業(yè)性文檔，能夠幫助我們極速查詢文檔、總結(jié)知識(shí)要點(diǎn)，快速獲取所需知識(shí)，將會(huì)大幅提升工作學(xué)習(xí)效率。

青椒云

使用青椒云進(jìn)行代碼測(cè)試時(shí)，14b模型輸出算是流暢，總耗時(shí)也是在2分鐘內(nèi)。

生成的代碼，乍一看沒(méi)問(wèn)題，但是試著運(yùn)行了一下，卻發(fā)現(xiàn)了隱藏bug，當(dāng)貪吃蛇邊緣觸碰到食物，居然意外結(jié)束了游戲，代碼還需要人工進(jìn)行排查調(diào)整才能正常使用。

在青椒云上使用Cherry-Studio，與ToDesk云電腦配置方式一樣，這里就不贅述了，直接來(lái)看測(cè)試結(jié)果。導(dǎo)入知識(shí)庫(kù)后，深度思考回答效率非?？?，僅耗時(shí)17秒多，但是輸出的內(nèi)容，會(huì)相比ToDesk云電腦簡(jiǎn)單不少，基本是對(duì)文檔內(nèi)容的復(fù)制。

無(wú)影云

使用無(wú)影云進(jìn)行代碼測(cè)試時(shí)，14b模型會(huì)略顯卡頓，輸出是逐個(gè)字冒出，總過(guò)程耗時(shí)較久。

當(dāng)html代碼生成后，發(fā)現(xiàn)到瀏覽器端并不能正常運(yùn)行，陷入了死循環(huán)，游戲開(kāi)始便會(huì)撞墻結(jié)束，無(wú)法正常運(yùn)行。

在Cherry-Studio中進(jìn)行本地知識(shí)庫(kù)查詢，14b模型8核時(shí)與16核時(shí)配置之下，配置之下，深度思考耗時(shí)較長(zhǎng)，甚至有時(shí)總耗時(shí)約10分鐘才能完整輸出內(nèi)容。

切換到最頂配的60核時(shí)配置進(jìn)行運(yùn)行，速度有了較大提升，但是也需要數(shù)十秒的思考過(guò)程才能將知識(shí)庫(kù)的內(nèi)容進(jìn)行分析總結(jié)，輸出內(nèi)容質(zhì)量介于青椒云和ToDesk云電腦之間。

小結(jié)：在本地化代碼輸出、知識(shí)庫(kù)內(nèi)容搭建方面，ToDesk云電腦憑借32b模型，有較大的優(yōu)勢(shì)，代碼可靠性高，能對(duì)知識(shí)庫(kù)內(nèi)容進(jìn)行總結(jié)分析，內(nèi)容更具可讀性。青椒云14b模型，輸出速度快，但是代碼穩(wěn)定性差，存在隱藏bug，知識(shí)庫(kù)內(nèi)容輸出較為簡(jiǎn)單。無(wú)影云14b模型，輸出速度最慢，代碼同樣缺乏可靠性，多次輸出仍無(wú)法正常運(yùn)行，知識(shí)庫(kù)的內(nèi)容總結(jié)與青椒云接近。

總結(jié)

根據(jù)上文內(nèi)容，個(gè)人也列舉個(gè)表格進(jìn)行總結(jié)。青椒云和無(wú)影云同樣支持最高14b模型，但是在體驗(yàn)上卻完全不同。青椒云畫質(zhì)較差，在深度思考回答方面，速度反饋較快，與ToDesk云電腦接近。無(wú)影云畫質(zhì)高清，連接穩(wěn)定，但是在代碼輸出、知識(shí)庫(kù)總結(jié)方面，速度最慢，十分耗時(shí)。

ToDesk云電腦在相同算力下價(jià)格低26%，并在DeepSeek-R1-32B模型的加持之下，推理速度達(dá)18 token/s，各方面的表現(xiàn)均更為出色。且配置流程比競(jìng)品快2.3倍 ，畫質(zhì)高清，延遲性低。32B模型也更具備深挖知識(shí)庫(kù)內(nèi)容的實(shí)力，能夠極大提升工作、學(xué)習(xí)效率。