deepseek 本来就可以在线使用,或者下载 APP 使用,为什么还要自己搭建呢?
目前 deepseek 是免费,不代表以后是免费的,重要的是 deepseek 使用人数过多,或者受到攻击的时候,可能不能在线使用,而部署在自己的电脑上⾯,就可以 不受网的影响。但是,最重要的是搭建私⼈知识库,即内部知识库。不管是个⼈,还是公司,还是医院、学校等有⼀些知识、资料是不对外公开的,所以搭建私密数据库,还是有必要的。
需要准备资料:Ollama安装包 deepseek R1 模型
一.安装Ollama
我们这里使用的是 Windows 版本的 Ollama
下载以后,右键,【管理员⾝份运⾏】进⾏安装。
系统⾃动安装在 C 盘⽆法修改,等待安装完成。
安装完成以后,电脑桌面没有图标,在开始菜单有,不过有没有都不影响。
查看是否安装成功:
按住 win+R 键,调出运行程序,我们在输⼊框里面输⼊ cmd,点击确定。
在新的窗⼝中,输入 ollama -v 回⻋,显示:ollama version is 0.5.7 就说明安装成功了。
二.模型下载
我们根据自己的电脑配置,选择自己的模型。
- 1.5b 约占用空间 1.1GB
- 7b 约占用空间 4.7GB
- 8b 约占用空间 4.9GB
- 14b 约占用空间 9.0GB
- 32b 约占用空间 20GB
- 70b 约占用空间 43GB
- 671b 约占用空间 404GB
大家根据自己的空间做出选择
原则上数据越大,回答的问题就越全面。但是下载的时间也就越久,既然是自己私人的知识库,就选第⼀个了。
拿到下载链接以后,我们在窗口里粘贴然后下载
安装完成以后,就会显示 success,就表示安装成功了。
这样我们就可以在这里和模型进行对话了,我们的私有化部署就完毕了
后期我会更新一个给模型投喂资料的教程,也就是搭建属于自己的知识库。