DeepSeek本地部署服務(wù)器

第頁DeepSeek本地部署服務(wù)器DeepSeek本地部署服務(wù)器，再也不怕服務(wù)器崩了！最近國(guó)產(chǎn)大模型DeepSeek非?；?，但由于訪問人數(shù)過多經(jīng)常頻繁出現(xiàn)反應(yīng)遲緩甚至是宕機(jī)的情況。但萬幸的是，DeepSeek是一個(gè)開源模型，我們可以通過本地部署在自己的終端上隨時(shí)使用，而且部署到本地后無需聯(lián)網(wǎng)即可直接使用。一：安裝Ollama如果想要在本地運(yùn)行DeepSeek需要用到Ollama這個(gè)工具，這是一個(gè)開源的本地大模型運(yùn)行工具。我們可以訪問/進(jìn)入Ollama官網(wǎng)下載Ollama，下載時(shí)有三個(gè)系統(tǒng)的安裝包可選擇，這里只需要選擇下載我們電腦對(duì)應(yīng)的操作系統(tǒng)版本即可，這里我選擇的是Windows版本。Ollama安裝包下載完成后直接雙擊安裝即可，安裝速度還是比較快的。Ollama安裝完成后需要打開電腦的CMD，也就是命令提示符，只需要在電腦下方的搜索框中輸入cmd即可打開。打開后在命令提示符窗口中輸入ollamahelp并按回車鍵，這個(gè)操作是為了驗(yàn)證這個(gè)軟件是否安裝成功，如果沒有報(bào)錯(cuò)的話則表示這個(gè)軟件安裝成功。二：下載部署Deepseek模型回到/網(wǎng)址中，在網(wǎng)頁上方搜索框中輸入Deepseek-r1，這個(gè)Deepseek-r1就是我們需要本地部署的一個(gè)模型。點(diǎn)擊Deepseek-r1后會(huì)進(jìn)入詳情界面，里面有多個(gè)參數(shù)規(guī)?？晒┻x擇，從1.5b到671b都有。需注意的是，這里我們需要根據(jù)自己電腦的硬件配置來選擇模型大小，下面是一個(gè)模型大小配置參考表格，大家可根據(jù)自己的電腦配置來自行選擇，當(dāng)然了，部署的本地模型越大，使用的深度求索效果就越好。選擇好模型規(guī)模后，復(fù)制右邊的一個(gè)命令。命令復(fù)制完成后回到命令提示符窗口，將剛剛復(fù)制的命令粘貼到命令提示符窗口中并按回車鍵即可下載模型。模型下載完成后，我們就直接可以在命令提示符面板中使用它了。以后如果我們需要再次使用Deepseek這個(gè)模型的話，我們可以直接打開命令提示符窗口，只需要再次在命令符提示窗口中輸入上面復(fù)制的指令即可。三：可視化圖文交互界面Chatbox雖然我們可以在本地正常使用Deepseek這個(gè)模型了，但是這個(gè)AI工具的面板是非常簡(jiǎn)陋的，很多人使用不習(xí)慣，這時(shí)我們就可以通過Chatbox這個(gè)可視化圖文交互界面來使用它。點(diǎn)擊https://chatboxai.app/zh進(jìn)入Chatbox官網(wǎng)，Chatbox雖然有本地客戶端，但我們也可以直接使用網(wǎng)頁版。進(jìn)入Chatbox網(wǎng)頁版本后點(diǎn)擊使用自己的APIKey或本地模型。點(diǎn)擊后會(huì)進(jìn)入模型提供方選擇界面，這里選擇OllamaAPI。這里需要注意的是，為了能夠Ollama能遠(yuǎn)程鏈接，這里我們最好看一下Chatbox提供的教程，根據(jù)這個(gè)教程操作一下。這個(gè)教程還是非常簡(jiǎn)單的，如果是Windows操作系統(tǒng)則只需要配置一下環(huán)境變量即可，配置完環(huán)境變量后需重啟一下Ollama程序。重啟Ollama程序后，我們需要將Chatbox設(shè)置界面關(guān)閉并重新打開，重新打開Chatbox設(shè)置界面后即可選擇Deepseek模型了，選擇后Deepseek模型后點(diǎn)擊保存即可。接下來只需要在Chatbox中新建對(duì)話即可使用Deepseek模型了，以下圖為例，上方是它的思考過程，下方是它給出的答