一、下载deepseek软件和AnythingLLM软件

deepseek软件需要先下载ollama:网址:Ollama

AnythingLLM软件下载网址:https://anythingllm.com/

二、下载后安装软件

ollama软件

AnythingLLM

三、通过ollama安装deepseek

以1.5b为例,点击1.5b

按win+r,输入cmd

复制ollama run deepseek-r1:1.5b,回车,开始自动安装,出现success,表示安装完成

为了做到模型私有化,还需要输入nomic-embed-text:latest,这个是帮助我们建立自己的知识库的。

打开AnythingLLM,新建工作区,输入名字

点击红色圈内,即可上传自己的文件,建立自己的知识库,同时可以采用对话框进行训练自己的模型。

由于我个人下载的是1.5b的,在数据回答的时候明显看出不如网页版,但是通过浅显的训练基本能回答对问题。

Logo

尧米是由西云算力与CSDN联合运营的AI算力和模型开源社区品牌,为基于DaModel智算平台的AI应用企业和泛AI开发者提供技术交流与成果转化平台。

更多推荐