deepseek 本来就可以在线使用,或者下载 APP 使用,为什么还要自己搭建呢?

目前 deepseek 是免费,不代表以后是免费的,重要的是 deepseek 使用人数过多,或者受到攻击的时候,可能不能在线使用,而部署在自己的电脑上⾯,就可以 不受网的影响。但是,最重要的是搭建私⼈知识库,即内部知识库。不管是个⼈,还是公司,还是医院、学校等有⼀些知识、资料是不对外公开的,所以搭建私密数据库,还是有必要的。

需要准备资料:Ollama安装包 deepseek R1 模型

请输入图片描述

一.安装Ollama

我们这里使用的是 Windows 版本的 Ollama

下载以后,右键,【管理员⾝份运⾏】进⾏安装。

系统⾃动安装在 C 盘⽆法修改,等待安装完成。

安装完成以后,电脑桌面没有图标,在开始菜单有,不过有没有都不影响。

查看是否安装成功:

按住 win+R 键,调出运行程序,我们在输⼊框里面输⼊ cmd,点击确定。

在新的窗⼝中,输入 ollama -v 回⻋,显示:ollama version is 0.5.7 就说明安装成功了。

二.模型下载

我们根据自己的电脑配置,选择自己的模型。

  • 1.5b 约占用空间 1.1GB
  • 7b 约占用空间 4.7GB
  • 8b 约占用空间 4.9GB
  • 14b 约占用空间 9.0GB
  • 32b 约占用空间 20GB
  • 70b 约占用空间 43GB
  • 671b 约占用空间 404GB

大家根据自己的空间做出选择

原则上数据越大,回答的问题就越全面。但是下载的时间也就越久,既然是自己私人的知识库,就选第⼀个了。

拿到下载链接以后,我们在窗口里粘贴然后下载

安装完成以后,就会显示 success,就表示安装成功了。

这样我们就可以在这里和模型进行对话了,我们的私有化部署就完毕了

后期我会更新一个给模型投喂资料的教程,也就是搭建属于自己的知识库。

最后修改:2025 年 03 月 02 日
如果觉得我的文章对你有用,请随意赞赏