目录
方法一
最近,一家名叫DeepSeek的初创公司经过技术迭代与升级,发布了全新一代大模型,“DeepSeek-V3”。由于这款大模型太过好用,DeepSeek R1 更是直接免费开源,在AI发烧友圈子传播后,传到了海外社交平台、技术论坛,引发了海外网友的连连称赞。

各项性能指标更是和OpenAI-o1 模型不相上下,甚至做到了小部分的超越,关键是开源的,我们可以本地部署使用

1、本地部署,我们可以通过Ollama来进行安装
Ollama 官方版:【点击前往】
Web UI 控制端【点击安装】
安装命令
1.5B Qwen DeepSeek R1
ollama run deepseek-r1:1.5b
7B Qwen DeepSeek R1
ollama run deepseek-r1:7b
8B Llama DeepSeek R1
ollama run deepseek-r1:8b
14B Qwen DeepSeek R1
ollama run deepseek-r1:14b
32B Qwen DeepSeek R1
ollama run deepseek-r1:32b
70B Llama DeepSeek R1
ollama run deepseek-r1:70b
2. 更多模型下载
DeepSeek-R1
模型 | #总参数 | #已激活参数 | 上下文长度 | 下载 |
---|---|---|---|---|
DeepSeek-R1-Zero | 671B | 37B | 128千 | 🤗 HuggingFace |
DeepSeek-R1 | 671B | 37B | 128千 | 🤗 HuggingFace |
DeepSeek-R1-Zero 和 DeepSeek-R1 基于 DeepSeek-V3-Base 进行训练。有关模型架构的更多详细信息,请参阅DeepSeek-V3存储库。
DeepSeek-R1-Distill 模型
模型 | 基础模型 | 下载 |
---|---|---|
DeepSeek-R1-Distill-Qwen-1.5B | Qwen2.5-Math-1.5B | 🤗 HuggingFace |
DeepSeek-R1-Distill-Qwen-7B | Qwen2.5-Math-7B | 🤗 HuggingFace |
DeepSeek-R1-Distill-Llama-8B | Llama-3.1-8B | 🤗 HuggingFace |
DeepSeek-R1-Distill-Qwen-14B | Qwen2.5-14B | 🤗 HuggingFace |
DeepSeek-R1-Distill-Qwen-32B | Qwen2.5-32B | 🤗 HuggingFace |
DeepSeek-R1-Distill-Llama-70B | Llama-3.3-70B-Instruct | 🤗 HuggingFace |
DeepSeek-R1-Distill 模型基于开源模型进行了微调,使用了 DeepSeek-R1 生成的样本。我们对其配置和分词器进行了轻微更改。请使用我们的设置来运行这些模型。
方法二
一、安装Ollama
1.官网地址
![图片[1]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125104125164-%E6%88%AA%E5%B1%8F2025-01-25-10.41.03-1024x720.png)
2.安装
![图片[2]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125104203439-%E6%88%AA%E5%B1%8F2025-01-25-10.41.53-857x1024.png)
打开终端输入上面内容
![图片[3]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125104255711-%E6%88%AA%E5%B1%8F2025-01-25-10.42.45-1024x688.png)
二、安装deepseek-r1大模型
1.查找模型
![图片[4]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125113143958-%E6%88%AA%E5%B1%8F2025-01-25-10.48.08-1024x720.png)
![图片[5]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125104850809-%E6%88%AA%E5%B1%8F2025-01-25-10.48.29-1024x720.png)
根据自己硬件配置性能选择模型大小
![图片[6]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125104924341-%E6%88%AA%E5%B1%8F2025-01-25-10.49.03-1024x720.png)
2.安装模型
![图片[7]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125105112521-%E6%88%AA%E5%B1%8F2025-01-25-10.50.42-1024x720.png)
打开终端,加入sudo
![图片[8]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125105836682-%E6%88%AA%E5%B1%8F2025-01-25-10.58.25-1024x695.png)
![图片[9]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125111555455-%E6%88%AA%E5%B1%8F2025-01-25-11.15.42-1024x695.png)
3.测试语言
![图片[10]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125111737676-%E6%88%AA%E5%B1%8F2025-01-25-11.17.17-1024x695.png)
三、安装一个可视化对话Chatbox
1.下载安装
![图片[11]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125112636471-%E6%88%AA%E5%B1%8F2025-01-25-11.26.10-1024x720.png)
2.配置上Ollama
![图片[12]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125112743229-%E6%88%AA%E5%B1%8F2025-01-25-11.27.29-1024x793.png)
![图片[13]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125112936455-%E6%88%AA%E5%B1%8F2025-01-25-11.28.06-1024x793.png)
![图片[14]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125113010199-%E6%88%AA%E5%B1%8F2025-01-25-11.29.45-1024x793.png)
![图片[15]-2025国产超火deepseek r1 AI大模型本地一分钟搭建平替OpenAI,AI私有化。-VUM星球](https://www.vumstar.com/wp-content/uploads/2025/01/20250125113106367-%E6%88%AA%E5%B1%8F2025-01-25-11.30.39-1024x793.png)
删除模型
在ollama
中删除模型的命令非常简单,可以直接在命令行中执行。以下是具体的步骤和命令:
- 打开命令行界面:
打开你的终端(在Linux或macOS中)或命令提示符/PowerShell(在Windows中)。 - 执行删除模型的命令:
使用以下命令来删除指定的模型:
ollama rm <model_name>
其中,<model_name>
是你想要删除的模型的名称。
- 确认删除:
执行命令后,ollama
将会删除指定的模型,并可能给出删除成功的确认信息。你可以通过再次列出所有模型来确认模型已被删除:
ollama list
以下是一个完整的示例:
# 假设要删除的模型名称为 "example_model"
ollama rm example_model
# 确认模型已被删除
ollama list
在删除模型之前,请确保你不再需要该模型,因为删除操作是不可逆的。如果你不确定模型名称,可以先使用ollama list
命令列出所有模型,然后选择合适的模型名称进行删除。