
deepseek的本地化部署
简单介绍了,通过AnythingLLM实现deepseek本地化部署。
·
一、下载deepseek软件和AnythingLLM软件
deepseek软件需要先下载ollama:网址:Ollama
AnythingLLM软件下载网址:https://anythingllm.com/
二、下载后安装软件
ollama软件
AnythingLLM
三、通过ollama安装deepseek
以1.5b为例,点击1.5b
按win+r,输入cmd
复制ollama run deepseek-r1:1.5b,回车,开始自动安装,出现success,表示安装完成
为了做到模型私有化,还需要输入nomic-embed-text:latest,这个是帮助我们建立自己的知识库的。
打开AnythingLLM,新建工作区,输入名字
点击红色圈内,即可上传自己的文件,建立自己的知识库,同时可以采用对话框进行训练自己的模型。
由于我个人下载的是1.5b的,在数据回答的时候明显看出不如网页版,但是通过浅显的训练基本能回答对问题。
更多推荐
所有评论(0)