免 Docker 在本地部署 DeepSeek-R1

[前言]

目前网络上大量教程都需要借助 Docker,对于只是想在本地部署体验的人来说太过复杂,因此本篇文章给大家介绍一种简单直接的方案


一、安装 Ollama

点击右侧链接进入官网,下载对应操作系统的版本安装即可 [官网下载页面]

更改安装路径(选)

下载后直接运行安装程序的话只能安装在 C 盘,占用空间较大,约 4~5 GB

定位到安装程序的文件夹下,打开终端窗口执行命令:[教程:12种打开终端的方式]

OllamaSetup.exe /DIR=D:\Program\Ollama

OllamaSetup.exe 是安装包的文件名,可根据实际文件名修改,如:OllamaSetup_0.5.11.exe

/DIR=D:\Program\Ollama 是指定 Ollama 的安装位置,D:\Program\Ollama 处可自行修改为其他路径

执行命令后会发现 Ollama 安装在了指定的文件夹下

修改环境变量(选)

Ollama 下载的模型文件会默认存放在 C 盘用户文件夹下,而模型文件通常占用空间较大,所以通过修改环境变量的方式指定 Ollama 的模型下载位置

  1. 新建环境变量:[教程:新建环境变量]
    • 变量名:OLLAMA_MODELS
    • 变量值:D:\OllamaModels
  2. 刷新环境变量
    • 方法一: 重启电脑(推荐)
    • 方法二: 重启资源管理器
      1. 打开任务管理器(Ctrl + Shift + Esc
      2. 在任务管理器中,找到 Windows 资源管理器(Explorer.exe),右键点击并选择“重新启动”

二、安装 Web UI 控制端

简而言之就是安装一个浏览器插件,使我们可以用可视化界面而不是在命令行终端里与 DeepSeek 对话


三、安装 DeepSeek 模型

安装方法: 在任意位置打开终端(不会的请点击此链接:[教程:12种打开终端的方式] ),选择以下某个参数的模型,复制代码到终端里执行即可

注意: 选择的模型大小最好不要超过电脑内存+显存(专用 GPU 显存)的总和
更多大语言模型详见:Ollama Models

  • DeepSeek-R1 1.5B(1.1GB)
  • ollama run deepseek-r1:1.5b
  • DeepSeek-R1 7B(4.7GB)
  • ollama run deepseek-r1:7b
  • DeepSeek-R1 8B(4.9GB)
  • ollama run deepseek-r1:8b
  • DeepSeek-R1 14B(9.0GB)
  • ollama run deepseek-r1:14b
  • DeepSeek-R1 32B(20GB)
  • ollama run deepseek-r1:32b
  • DeepSeek-R1 70B(43GB)
  • ollama run deepseek-r1:70b
  • DeepSeek-R1 671B(404GB)
  • ollama run deepseek-r1:671b

    四、运行 DeepSeek 模型

    1. 打开 Ollama(若桌面没有快捷方式,可前往开始菜单打开)。成功打开后没有界面,但是在任务栏右下角会有 Ollama 的图标
    2. 打开浏览器,在右上角插件栏(可能是隐藏状态,需要到浏览器设置里打开)单击刚刚安装的插件。经常访问的话可将其固定在插件栏上,Edge 浏览器是“在工具栏中显示”,其他浏览器大同小异
    3. 在页面上方选择模型,也可进入右上角设置里更改。语言选项也在设置里,可改成“简体中文”
    4. 开始对话

    暂无评论

    发送评论 编辑评论

    
    				
    |´・ω・)ノ
    ヾ(≧∇≦*)ゝ
    (☆ω☆)
    (╯‵□′)╯︵┴─┴
     ̄﹃ ̄
    (/ω\)
    ∠( ᐛ 」∠)_
    (๑•̀ㅁ•́ฅ)
    →_→
    ୧(๑•̀⌄•́๑)૭
    ٩(ˊᗜˋ*)و
    (ノ°ο°)ノ
    (´இ皿இ`)
    ⌇●﹏●⌇
    (ฅ´ω`ฅ)
    (╯°A°)╯︵○○○
    φ( ̄∇ ̄o)
    ヾ(´・ ・`。)ノ"
    ( ง ᵒ̌皿ᵒ̌)ง⁼³₌₃
    (ó﹏ò。)
    Σ(っ °Д °;)っ
    ( ,,´・ω・)ノ"(´っω・`。)
    ╮(╯▽╰)╭
    o(*////▽////*)q
    >﹏<
    ( ๑´•ω•) "(ㆆᴗㆆ)
    😂
    😀
    😅
    😊
    🙂
    🙃
    😌
    😍
    😘
    😜
    😝
    😏
    😒
    🙄
    😳
    😡
    😔
    😫
    😱
    😭
    💩
    👻
    🙌
    🖕
    👍
    👫
    👬
    👭
    🌚
    🌝
    🙈
    💊
    😶
    🙏
    🍦
    🍉
    😣
    Source: github.com/k4yt3x/flowerhd
    颜文字
    Emoji
    小恐龙
    花!
    上一篇
    下一篇