DeepSeek本地部署唔怕斷線:Linux開機自動執行教學

發布時間: · DeepSeek 香港使用資料

搞LLM本地部署?好多香港中小企都揀佢,主要就係圖個私隱同慳錢啦!DeepSeek 呢啲高效能模型,搞掂咗部署之後,最緊要就係穩定。試諗下,部機忽然斷電或者重啟,DeepSeek 服務又要你手動搞返,係咪好火滾?時間就係金錢啊嘛!所以,學識點樣喺 Linux 度搞個開機自啟動,絕對幫你省翻一大堆麻煩,保證業務順順利利咁跑。

目錄

  • 點解要搞開機自啟動?
  • DeepSeek本地部署環境簡介
  • 第一步:準備自啟動腳本
  • 第二步:建立Systemd服務檔
  • 第三步:啟用及驗證服務
  • 常見問題

點解要搞開機自啟動?

我做測試果陣,最驚就係部機無端端 reboot 咗,然後所有嘢又要從頭嚟過。DeepSeek 呢啲大食模型服務,手動啟動真係又嘥時間又容易唔記得,搞到業務停擺。尤其係啲要 24/7 唔停嘅內部工具或者開發環境,開機自啟動簡直就係「神隊友」!佢包保你部伺服器點樣重啟,DeepSeek 模型服務都識得自動著返,順暢到你唔信!

DeepSeek本地部署環境簡介

家陣要喺本地部署 DeepSeek 模型,好多朋友都鍾意用 Ollama 呢個神器,佢可以大大簡化模型下載同運行。就攞我哋最近玩嘅 DeepSeek Coder V2 (Beta) 嚟講,配搭 Ollama 0.1.33 版,喺本地顯卡跑起嚟效果都幾正!呢個方法超啱嗰啲要處理本地數據或者對網絡延遲有嚴格要求嘅應用。如果你 DeepSeek 本地部署仲未搞掂,唔使驚,可以睇返我哋之前篇文:DeepSeek 模型本地運行教學:Ollama 部署實戰,裡面有晒手把手教學!

DeepSeek 香港企業應用架構演示

第一步:準備自啟動腳本

第一步好簡單,首先搞清楚你平時係點樣手動開 DeepSeek 或者 Ollama 服務嘅。如果你用 Ollama 跑 DeepSeek 模型,通常就係 ollama serve,或者你直接用 Docker。為咗確保你個腳本有足夠權限同可以自己跑,我哋推薦你整個簡單嘅 bash 腳本。舉個例,如果你個 Ollama 喺 /usr/local/bin/ollama 度:

建立一個腳本文件,例如 ~/.config/ollama.sh

#!/bin/bash

# 確保 Ollama 服務啟動
# 你可能需要將 'ollama' 替換為實際的執行路徑,例如 /usr/local/bin/ollama
# 或者如果你的 ollama 已經在 PATH 中,直接 'ollama serve' 即可

/usr/local/bin/ollama serve > /var/log/ollama.log 2>&1 &

然後,俾佢執行權限:

chmod +x ~/.config/ollama.sh

提一提你,> /var/log/ollama.log 2>&1 & 呢堆嘢係將服務跑出嚟嘅日誌掟去一個文件度,仲要畀佢喺後台默默運行。咁樣之後睇返服務狀態或者捉蟲仔就方便好多啦。如果需要啲複雜啲嘅啟動參數,直接加落腳本入面就得。

第二步:建立Systemd服務檔

Systemd 係 Linux 管服務嘅標準工具,無佢唔得嘅。我哋就係要幫 Ollama 服務整個 Systemd 服務檔,咁系統開機嗰陣佢就會自動識得著。嚟,喺 /etc/systemd/system/ 呢個目錄度開個 ollama.service 文件:

sudo nano /etc/systemd/system/ollama.service

然後將以下內容複製貼上到文件入面:

[Unit]
Description=Ollama Service for DeepSeek Local Models
After=network.target

[Service]
ExecStart=/usr/local/bin/ollama serve
Restart=always
User=your_username # 將 your_username 替換為你的實際用戶名
Group=your_username # 將 your_username 替換為你的實際用戶組名
Environment=OLLAMA_HOST=0.0.0.0:11434 # 如果你需要外部訪問

[Install]
WantedBy=multi-user.target

重要提示:

  • ExecStart:呢度記住要填你 ollama serve 指令嘅真實路徑。如果用返上面整嘅腳本,就係 ExecStart=/home/your_username/.config/ollama.sh。不過我個人推薦直接用 ollama serve 指令,Systemd 會自己搞掂背景運行同埋日誌嘅嘢。
  • User=your_usernameGroup=your_username:呢兩行勁重要,記得將 your_username 換成你實際登入緊嘅用戶名,包保 Ollama 有權限去讀模型文件同埋做其他嘢。想知自己用戶名?打 whoami 就得。如果你硬係要用 root 權限,可以唔寫呢兩行,但係通常都唔建議咁做啦。
  • Environment=OLLAMA_HOST=0.0.0.0:11434:呢行即係話你個 Ollama 服務可以從公司其他電腦或者測試機嗰邊訪問到。如果只係自己用,可以刪咗佢或者改做 127.0.0.1:11434。對於想將 DeepSeek 模型 Share 俾公司內部開發團隊用嘅話,呢個設定超方便!想知 DeepSeek 提示詞點樣玩得更溜?去睇我哋另一篇文:DeepSeek 提示詞基本功:實用指南

第三步:啟用及驗證服務

文件儲存好之後,你需要通知 Systemd 有個新嘅服務檔,仲要啟用佢,等佢開機嗰陣會自動著:

sudo systemctl daemon-reload
sudo systemctl enable ollama.service
sudo systemctl start ollama.service

啟用之後,你可以即刻檢查服務嘅狀態,睇吓佢係咪正常運行緊:

sudo systemctl status ollama.service

Linux 服務管理指令

搞掂晒,如果一切順利,你就會見到服務顯示 active (running)。咁樣以後,你部 Linux 伺服器無論點樣重啟,Ollama 服務都會自動識得著,你個 DeepSeek 模型就可以隨時聽你指令啦!

常見問題

  • 服務啟動失敗點算?

    • 首先睇下 sudo systemctl status ollama.service 個輸出,睇吓有冇咩紅字錯誤。通常都係權限唔夠、路徑打錯咗或者個端口畀人用咗。特別特別要留意 ExecStart 入面嘅指令同路徑,睇真啲係咪完全正確。
    • 檢查日誌文件:如果喺 ExecStart 中重定向咗日誌,例如 > /var/log/ollama.log,請檢查該文件嘅內容以獲取更詳細嘅錯誤信息。
    • 確保 UserGroup 設置正確,並且該用戶有權限執行 Ollama。
  • DeepSeek 模型無自動加載?

    • Ollama serve 指令通常會啟動 Ollama daemon,但模型可能需要首次請求先會加載。確保 Ollama 服務啟動後,你嘅應用程式可以正常向 http://localhost:11434 發送請求。如果遇到 DeepSeek API 請求重複失敗嘅情況,建議參考我哋嘅 DeepSeek API 重試指南
  • 點樣手動停止/重啟服務?

    • 停止:sudo systemctl stop ollama.service
    • 重啟:sudo systemctl restart ollama.service

結語

睇完呢篇教學,相信大家對 DeepSeek 本地部署點樣搞開機自啟動,應該都心中有數啦!呢個小招數唔單止令你做嘢方便好多,最緊要係可以確保你個 DeepSeek 模型服務可以穩穩陣陣咁跑,幫你嘅中小企業務打好個技術基礎。希望今次嘅實戰分享對大家有用啦!

上一篇
DeepSeek 超神!網站圖片懶加載、Alt 標籤一鍵優化攻略(新手必學!)
下一篇
DeepSeek 幫你炒股穩賺?AI 自動分析財報新聞情緒,手把手教學!

最新教程

查看全部文章 »