安装

官网

只能默认安装到C盘,不支持自定义安装路径

安装模型

模型地址

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
# 版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)
ollama run deepseek-r1:1.5b
# 版本:7b,DeepSeek的第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型(需要
4.7GB空余空间)
ollama run deepseek-r1:7b
# 版本:8b,(需要4.9GB空余空间)
ollama run deepseek-r1:8b
# 版本:14b,(需要9GB空余空间)
ollama run deepseek-r1:14b
# 版本:32b,(需要20GB空余空间)
ollama run deepseek-r1:32b
# 版本:70b,(需要43GB空余空间)
ollama run deepseek-r1:70b
# 版本:671b,(需要404GB空余空间)
ollama run deepseek-r1:671b

查看模型列表

1
ollama list

运行模型

ollama run 模型名称(NAME)

1
2
# 例子
ollama run deepseek-r1:7b

查看运行的模型列表

1
ollama ps

停止模型

1
ollama kill 模型名称(NAME)

删除模型

1
ollama rm 模型名称(NAME)
1
curl http://localhost:11434/api/generate -d '{"model": "llama3.2","prompt":"Why is the sky blue?"}'

本地部署太卡又太慢 不如买api