普通筆記本Windows私有化部署DeepSeek模型

本文描述普通筆記本(集成顯卡)上安裝和運行DeespSeek模型的方法。最終效果如圖


image.png

安裝步驟

安裝Ollama

訪問Ollama主頁,點擊下載 -> Download For Windows,下載并安裝。
安裝完畢后打開windows命令行cmd

# 檢查ollama版本
> ollama --version
ollama version is 0.5.7
# 檢查已經安裝的模型,默認是空
>ollama list
NAME                  ID              SIZE      MODIFIED

確認安裝成功

下載和運行模型

# 啟動模型,如果沒有安裝則會自動下載安裝
ollama run deepseek-r1:1.5b
# 等待一定時間后顯示以下界面表示運行成功
>>> Send a message (/? for help)
# 退出模型
>>> /bye

可以直接在命令行打字交互。
可以安裝更多的模型。

#
>ollama list
NAME                  ID              SIZE      MODIFIED
deepseek-r1:7b        0a8c26691023    4.7 GB    42 minutes ago
deepseek-r1:32b       38056bbcbb2d    19 GB     55 minutes ago
deepseek-r1:14b       ea35dfe18182    9.0 GB    2 hours ago
deepseek-r1:latest    0a8c26691023    4.7 GB    3 hours ago
deepseek-r1:1.5b      a42b25d8c10a    1.1 GB    4 hours ago

修改模型存儲位置(可選)

默認模型存在 C:\Users\XXX\.ollama\models,如果要修改模型存儲的位置。
在電腦環境變量中新建變量
OLLAMA_MODELS = D:\XXXX
改變后重啟電腦,注意一定要重啟電腦才能生效

image.png

模型實測比較

以本人筆記本 R7 4750+32G內存,實測模型占用的內存和性能大概如下:

模型 內存占用 速度
1.5b 1~2 GB 較快,與線上模型相似
7b 4~5 GB 每秒5-8詞
14b ~10 GB 每秒2-3詞
32b ~20GB 每秒1詞

回答質量上,1.5b的模型在回答國內冷門區域的旅游景點時會胡編亂造,7b偶爾會中英夾雜但意思對,其余都可以較正確回答。

安裝Docker

訪問Docker wiki說明文檔,下載 Docker Desktop for Windows - x86_64 并安裝。
安裝后,運行桌面的Docker Desktop

image.png

Docker中安裝運行open-webui

在Docker中可以直接安裝運行open-webui,因此不用額外獨立安裝

# 端口3000可修改為其他端口
> docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
# 輸出信息
Unable to find image 'ghcr.io/open-webui/open-webui:main' locally
main: Pulling from open-webui/open-webui
af302e5c37e9: Pull complete
...
aa537a9b900a: Pull complete
Digest: sha256:b2c83b5c7b9b244999307b4b1c0e195d41268f3d3a62b84b470c0cea5c5743fd
Status: Downloaded newer image for ghcr.io/open-webui/open-webui:main
a8750b9857788452e981249168dcc520fe5cea4c0d917e50b58c694aca214de4

# 查看當前運行的容器
> docker ps
# 輸出信息
CONTAINER ID   IMAGE                                COMMAND                   CREATED          STATUS
 PORTS                    NAMES
a8750b985778   ghcr.io/open-webui/open-webui:main   "bash start.sh"           31 minutes ago   Up 31 minutes (healthy)   0.0.0.0:3000->8080/tcp   open-webui
839a434b163a   docker/welcome-to-docker:latest      "/docker-entrypoint.…"   47 minutes ago   Up 47 minutes
0.0.0.0:8088->80/tcp     welcome-to-docker

使用

瀏覽器打開
http://localhost:3000/
輸入設置用戶名密碼

image.png

可以直接對話,左上角選擇模型
image.png

相關資源鏈接

DeepSeek-R1 本地部署指南:Ollama 助你輕松實現,支持2G顯卡
open-webui Github主頁
open-webui wiki 說明文檔
Docker wiki說明文檔
Ollama主頁

最后編輯于
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發布,文章內容僅代表作者本人觀點,簡書系信息發布平臺,僅提供信息存儲服務。
  • 序言:七十年代末,一起剝皮案震驚了整個濱河市,隨后出現的幾起案子,更是在濱河造成了極大的恐慌,老刑警劉巖,帶你破解...
    沈念sama閱讀 228,505評論 6 533
  • 序言:濱河連續發生了三起死亡事件,死亡現場離奇詭異,居然都是意外死亡,警方通過查閱死者的電腦和手機,發現死者居然都...
    沈念sama閱讀 98,556評論 3 418
  • 文/潘曉璐 我一進店門,熙熙樓的掌柜王于貴愁眉苦臉地迎上來,“玉大人,你說我怎么就攤上這事。” “怎么了?”我有些...
    開封第一講書人閱讀 176,463評論 0 376
  • 文/不壞的土叔 我叫張陵,是天一觀的道長。 經常有香客問我,道長,這世上最難降的妖魔是什么? 我笑而不...
    開封第一講書人閱讀 63,009評論 1 312
  • 正文 為了忘掉前任,我火速辦了婚禮,結果婚禮上,老公的妹妹穿的比我還像新娘。我一直安慰自己,他們只是感情好,可當我...
    茶點故事閱讀 71,778評論 6 410
  • 文/花漫 我一把揭開白布。 她就那樣靜靜地躺著,像睡著了一般。 火紅的嫁衣襯著肌膚如雪。 梳的紋絲不亂的頭發上,一...
    開封第一講書人閱讀 55,218評論 1 324
  • 那天,我揣著相機與錄音,去河邊找鬼。 笑死,一個胖子當著我的面吹牛,可吹牛的內容都是我干的。 我是一名探鬼主播,決...
    沈念sama閱讀 43,281評論 3 441
  • 文/蒼蘭香墨 我猛地睜開眼,長吁一口氣:“原來是場噩夢啊……” “哼!你這毒婦竟也來了?” 一聲冷哼從身側響起,我...
    開封第一講書人閱讀 42,436評論 0 288
  • 序言:老撾萬榮一對情侶失蹤,失蹤者是張志新(化名)和其女友劉穎,沒想到半個月后,有當地人在樹林里發現了一具尸體,經...
    沈念sama閱讀 48,969評論 1 335
  • 正文 獨居荒郊野嶺守林人離奇死亡,尸身上長有42處帶血的膿包…… 初始之章·張勛 以下內容為張勛視角 年9月15日...
    茶點故事閱讀 40,795評論 3 354
  • 正文 我和宋清朗相戀三年,在試婚紗的時候發現自己被綠了。 大學時的朋友給我發了我未婚夫和他白月光在一起吃飯的照片。...
    茶點故事閱讀 42,993評論 1 369
  • 序言:一個原本活蹦亂跳的男人離奇死亡,死狀恐怖,靈堂內的尸體忽然破棺而出,到底是詐尸還是另有隱情,我是刑警寧澤,帶...
    沈念sama閱讀 38,537評論 5 359
  • 正文 年R本政府宣布,位于F島的核電站,受9級特大地震影響,放射性物質發生泄漏。R本人自食惡果不足惜,卻給世界環境...
    茶點故事閱讀 44,229評論 3 347
  • 文/蒙蒙 一、第九天 我趴在偏房一處隱蔽的房頂上張望。 院中可真熱鬧,春花似錦、人聲如沸。這莊子的主人今日做“春日...
    開封第一講書人閱讀 34,659評論 0 26
  • 文/蒼蘭香墨 我抬頭看了看天上的太陽。三九已至,卻和暖如春,著一層夾襖步出監牢的瞬間,已是汗流浹背。 一陣腳步聲響...
    開封第一講書人閱讀 35,917評論 1 286
  • 我被黑心中介騙來泰國打工, 沒想到剛下飛機就差點兒被人妖公主榨干…… 1. 我叫王不留,地道東北人。 一個月前我還...
    沈念sama閱讀 51,687評論 3 392
  • 正文 我出身青樓,卻偏偏與公主長得像,于是被迫代替她去往敵國和親。 傳聞我的和親對象是個殘疾皇子,可洞房花燭夜當晚...
    茶點故事閱讀 47,990評論 2 374

推薦閱讀更多精彩內容