1、安装Ollama
进入官网https://ollama.com 下载Ollama,然后在下载目录cmd进入执行如下命令安装到指定目录(不然会安装在C盘)
OllamaSetup.exe /DIR=G:\AI\Ollama
还需要在环境变量加上
OLLAMA_MODELS=模型安装位置
不然模型会下载在当前用户下面的
.ollama\models
目录下面,当然如果你已经下载了,那么可以把这个目录下面的文件拷贝到上面指定目录即可。
2、安装deepseek-r1
从官网进入到deepseek-r1模型页面https://ollama.com/library/deepseek-r1
选择适合自己电脑的模型参数,我这里选择8b的,然后cmd执行即可
ollama run deepseek-r1:8b
千万不要选择671b的版本,这个是目前deepseek官网在跑的版本,需要几百万的设备才能跑起来,如果只是简单使用的话建议用1.5b的版本。(b十亿,也就是6710亿的参数)。
3、使用
我们可以通过命令行使用,也可以通过chatboxai工具比较友好。去官网下载https://chatboxai.app/zh ,安装好后设置里模型提供方选择Ollama API,然后选择我们的模型即可。
4、一些命令
运行模型
ollama run deepseek-r1:8b
显示模型信息
ollama show deepseek-r1:8b
列出电脑上的模型清单
ollama list
列出当前电脑的模型清单
ollama ps
停止正在运行的模型
ollama stop deepseek-r1:8b
启动Ollama
ollama serve
停止
感觉跟docker差不多