在本地電腦從零搭建DeepSeek

在本地電腦從零搭建DeepSeek！如何在本地自己的電腦上部署DeepSeek。1、哪些場(chǎng)景適合將大模型部署在自己電腦上？先說(shuō)結(jié)論：

雖說(shuō)將大模型部署在自己的電腦上，有很多好處，但萬(wàn)不得已，并不推薦個(gè)人搞本地部署（錢(qián)多或企業(yè)除外）。對(duì)于普通用戶(hù)來(lái)講，只是日常簡(jiǎn)單的使用AI，直接使用市面上主流的云AI工具就足夠了。那在哪些情況下，需要或者適合將大模型（如DeepSeek）部署在自己的電腦上呢？追求極致數(shù)據(jù)隱私與安全性當(dāng)處理高度敏感的數(shù)據(jù)，如醫(yī)療記錄、商業(yè)機(jī)密或個(gè)人隱私信息時(shí)，將大模型部署在本地電腦，可確保數(shù)據(jù)不會(huì)傳輸?shù)酵獠糠?wù)器，從根本上保障數(shù)據(jù)的安全性和隱私性。例如，醫(yī)療研究人員在分析患者的基因數(shù)據(jù)時(shí)，本地部署能避免數(shù)據(jù)泄露風(fēng)險(xiǎn)。保護(hù)敏感數(shù)據(jù)：

本地部署可以確保所有數(shù)據(jù)的處理和存儲(chǔ)都在本地完成，不會(huì)上傳到云端，從而有效避免數(shù)據(jù)在傳輸和云端存儲(chǔ)過(guò)程中可能帶來(lái)的隱私泄露風(fēng)險(xiǎn)。完全掌控?cái)?shù)據(jù)：

用戶(hù)可以完全控制數(shù)據(jù)的使用和存儲(chǔ)，確保數(shù)據(jù)不被未經(jīng)授權(quán)的訪問(wèn)或用于其他目的。個(gè)性化定制需求強(qiáng)烈（高度定制、靈活性）對(duì)于一些專(zhuān)業(yè)領(lǐng)域，如特定行業(yè)的知識(shí)問(wèn)答、代碼生成等，開(kāi)發(fā)者可以基于本地部署的大模型進(jìn)行微調(diào)，使其更好地滿(mǎn)足特定場(chǎng)景需求。例如，軟件開(kāi)發(fā)團(tuán)隊(duì)可以針對(duì)自身的代碼規(guī)范和業(yè)務(wù)邏輯，對(duì)大模型進(jìn)行優(yōu)化，提升代碼生成的準(zhǔn)確性和實(shí)用性。自定義知識(shí)庫(kù)訓(xùn)練：

用戶(hù)可以根據(jù)自己的需求對(duì)模型進(jìn)行自定義知識(shí)庫(kù)訓(xùn)練，進(jìn)一步提升模型在特定領(lǐng)域的性能。靈活調(diào)整模型參數(shù)：本地部署允許用戶(hù)根據(jù)業(yè)務(wù)需求靈活調(diào)整模型參數(shù)和功能，滿(mǎn)足不同場(chǎng)景下的個(gè)性化需求。開(kāi)源靈活性：

開(kāi)源模型（如DeepSeek）允許用戶(hù)無(wú)限制地進(jìn)行微調(diào)或?qū)⑵浼傻阶约旱捻?xiàng)目中成本與資源優(yōu)化（適合企業(yè)內(nèi)）成本可控：

長(zhǎng)期使用本地部署比持續(xù)使用云服務(wù)更具成本效益，尤其適合高頻調(diào)用場(chǎng)景。硬件友好：

DeepSeek等大模型對(duì)硬件資源要求較低，可在較少GPU或高級(jí)CPU集群上運(yùn)行，資源效率顯著。個(gè)人興趣與學(xué)習(xí)、研究目的學(xué)生、研究人員想要深入了解大模型的運(yùn)行機(jī)制、進(jìn)行算法實(shí)驗(yàn)或者開(kāi)展模型優(yōu)化研究，本地部署提供了一個(gè)可以自由探索和調(diào)試的環(huán)境。通過(guò)在自己電腦上部署模型，能夠更直觀地觀察模型的運(yùn)行過(guò)程，為學(xué)術(shù)研究提供便利。技術(shù)探索：

對(duì)于技術(shù)愛(ài)好者和研究人員來(lái)說(shuō)，本地部署可以提供一個(gè)更自由的實(shí)驗(yàn)環(huán)境，方便進(jìn)行模型的測(cè)試和優(yōu)化。教育用途：

教育機(jī)構(gòu)可以利用本地部署的大模型進(jìn)行教學(xué)和研究，無(wú)需依賴(lài)外部服務(wù)?？傊?，本地部署大模型適合那些對(duì)數(shù)據(jù)隱私、定制化、成本控制有較高要求的用戶(hù)和企業(yè)。2、準(zhǔn)備工作電腦配置：確保你的電腦具備一定的硬件性能，至少擁有8GB及以上的運(yùn)行內(nèi)存和足夠的硬盤(pán)空間。如果有英偉達(dá)顯卡，部署和運(yùn)行會(huì)更加流暢。下載ollama：你可以在ollama的官方網(wǎng)站（https://ollama.ai/）上找到對(duì)應(yīng)你操作系統(tǒng)（Windows、MacOS或Linux）的安裝包，下載并安裝。簡(jiǎn)單來(lái)說(shuō)，如果你的電腦配置滿(mǎn)足最低要求（如8GB內(nèi)存以上），就可以通過(guò)工具（如Ollama）輕松實(shí)現(xiàn)本地部署DeepSeek。實(shí)踐是檢驗(yàn)真理的唯一標(biāo)準(zhǔn)，話(huà)不多說(shuō)，開(kāi)干。3、本地電腦部署DeepSeek大模型具體步驟安裝ollama1、本地部署首先要安裝ollama，ollama

是一個(gè)用于在本地運(yùn)行大語(yǔ)言模型的工具，它能讓你在自己的電腦上輕松部署和使用各類(lèi)模型。你可以把它理解為，一個(gè)裝AI的盒子，把AI裝在盒子里，方便管理。訪問(wèn)ollama下載地址:/download根據(jù)自己的電腦類(lèi)型，選擇不同版本。接下來(lái)以Windows為例，下載好安裝后，雙擊安裝。（傻瓜式安裝即可）安裝完成后，ollama會(huì)在后臺(tái)運(yùn)行，任務(wù)欄會(huì)出現(xiàn)一個(gè)類(lèi)似羊駝的圖標(biāo)。選擇要安裝的模型訪問(wèn)/search,選擇要安裝的模型點(diǎn)擊選擇deepseek-r1，進(jìn)入模型參數(shù)界面這里的數(shù)字越大，參數(shù)越多，性能越強(qiáng)，所需要的配置也就越高，1.5b代表模型具備15億參數(shù)。例如，若要運(yùn)行14b參數(shù)模型，需要大約11.5G顯存。也就是你的電腦顯卡最好要達(dá)到16G。若個(gè)人學(xué)習(xí)用途，一般建議安裝最小的1.5b版本即可。大多數(shù)的個(gè)人電腦配置都能跑的起來(lái)。具體大家可以根據(jù)自己的電腦性能選擇。以1.5b參數(shù)為例，選擇1.5b參數(shù)后，復(fù)制紅框中的命令ollamarundeepseek-r1:1.5b。詳細(xì)地址:

/library/deepseek-r1:1.5b安裝模型1、打開(kāi)命令行，在命令行中輸入:ollamarundeepseek-r1:1.5b下載成功后，就可以與模型對(duì)話(huà)啦。此時(shí)大模型安裝在你的電腦上，就算斷網(wǎng)也可以繼續(xù)用，再也不用擔(dān)心數(shù)據(jù)泄露了。使用模型安裝好模型后，此時(shí)我們可以通過(guò)命令行的方式，在命令行中發(fā)送消息來(lái)與DeepSeek大模型對(duì)話(huà)。例如我的第一個(gè)問(wèn)題是："世界上是先有雞還是先有蛋？"對(duì)于這個(gè)問(wèn)題，回答的還可以，果然是推理型模型，思考的過(guò)程也給我們列出來(lái)了。我的第二個(gè)問(wèn)題是：”你是如何看待DeepSeek爆火的原因“？這個(gè)問(wèn)題，回答的就太過(guò)于敷衍了，直接將DeepSeek的公司背書(shū)給出來(lái)了，當(dāng)然也可以理解，畢竟DeepSeek的投喂數(shù)據(jù)都是幾個(gè)月前的，那時(shí)，它還并沒(méi)有爆火出圈，而且我們下載的還是最小閹割版模型。3、這里還有一個(gè)問(wèn)題，當(dāng)你關(guān)閉電腦后，下次若再想使用本地模型時(shí)，只需要啟動(dòng)了ollama，同時(shí)打開(kāi)命令行界面，輸入ollamarundeepseek-r1:1.5b

即可。因?yàn)槟阒耙呀?jīng)下載過(guò)，這次無(wú)需下載，可以直接和模型聊天。為本地模型搭建UI界面1、使用命令行方式來(lái)和模型對(duì)話(huà)，對(duì)于不會(huì)編程的小伙伴來(lái)說(shuō)，太難受了。不過(guò)沒(méi)關(guān)系，我們有很多方案可以為你的本地模型搭建UI界面，比如Open-WebUI、ChatboxAI等。2、這里我們以ChatBoxAI為例，訪問(wèn):https://chatboxai.app/zh選擇對(duì)應(yīng)的版本，下載安裝。選擇使用自己的APIKey或者本地模型：選擇本地跑的

deepseek-r1:1.5b模型：Ollama默認(rèn)使用端口11434提供本地服務(wù)。當(dāng)你在本地運(yùn)行Ollama時(shí)，可以通過(guò)以下地址訪問(wèn)其API服務(wù)：http://lo