DeepSeek AI来袭:飞牛nas系统通过ollama部署DeepSeek模型使用教程
重新写了一个简单的教程,全程可视化部署:
文字版本:
首先在飞牛OS设置内开启SSH,使用putty或其它软件登录至飞牛系统。
输入飞牛的登录ip,飞牛os的管理员账号,密码,再次输入 sudo -i 命令,再次输入密码进入root模式
在部署DeepSeek之前,需要安装Ollama,Ollama是大型语言模型框架,可以理解为AI模型的宿主,在部署DS前需要提前安装。
使用curl命令:
curl -fsSL https://ollama.com/install.sh | sh
拉取安装Ollama
在安装过程中遇到网络报错可以按^C中断,然后重新输入
curl -fsSL https://ollama.com/install.sh | sh
命令安装,直到安装100%完成
Ollama安装完成后如果有提示 No Nvidia or AMDxxx 的是飞牛主机没有独立显示导致的,并不影响使用,可以直接忽略;
这时候输入:
ollama
命令,出现这commands提示就可以了
接下来就是安装DeepSeek,具体版本如图,教程演示的是1.5b版本,常用最多的是7b版本。版本越高存储需求越大,对整机性能要求越高。
使用Ollama命令部署ds:
ollama run deepseek-r1:1.5b
(如果需要7b版本只要把1.5b改为7b即可)
等待安装完成会提示发送信息时,说明DeepSeek部署ok,可以使用了
任意测试了一下,1.5b版本速度较快,但运行结果一般。7b版本速度和推演结果比较适中。
以上多个版本都可以使用Ollama安装,如果存在多个安装版本时,使用 Ollama list 查看
选择某个版本使用如:
ollama run deepseek-r1:7b
小提示:中止运算Ctrl+C,退出DeepSeek Ctrl+D
附件各版本文字说明:
版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)
ollama run deepseek-r1:1.5b
————————————————
版本:7b,DS第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型(需要4.7GB空余空间)
ollama run deepseek-r1:7b
————————————————
版本:8b,(需要4.9GB空余空间)
ollama run deepseek-r1:8b
————————————————
版本:14b,(需要9GB空余空间)
ollama run deepseek-r1:14b
————————————————
版本:32b,(需要20GB空余空间)
ollama run deepseek-r1:32b
————————————————
版本:70b,(需要43GB空余空间)
ollama run deepseek-r1:70b
————————————————
版本:671b,(需要404GB空余空间)
ollama run deepseek-r1:671b
博客作者:映凡
文章地址:https://www.1457vip.com/4470.html
友情链接:https://www.1457vip.com/links
资源来源网络,感谢原创作者的整理和开发,资源实属来之不易,请大家私下交流使用,切勿商业传播。