一、写在前面

github:https://github.com/Mintplex-Labs/anything-llm

二、deepseek生成key

官网:https://platform.deepseek.com/api_keys
在这里插入图片描述
创建key之后,记得保存起来

二、安装AnythingLLM

1、下载地址:https://anythingllm.com/desktop
直接安装即可,过程可能有点长。

2、创建工作区
在这里插入图片描述

3、可以选择LLM,这里用deepseek
在这里插入图片描述
输入APkey(需要收费。。。)

在这里插入图片描述
我们可以选择本地模型,会自动下载。

三、使用

1、上传一个文件
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
需要花费一定的时间Embed,这考验计算机的计算资源。

这是这个excel的内容:
在这里插入图片描述

2、测试一下:
这里用的本地1.5B的大模型,可能有点智障。
在这里插入图片描述

四、API对接

1、生成秘钥

可以对接API
在这里插入图片描述

2、对话接口

如果用chat,响应很慢,最好用stream,需要进行对接
http://localhost:3001/api/v1/workspace/cxfworkspace/chat
注意Authorizationheader头需要设置,可以先测试一下
在这里插入图片描述

Logo

尧米是由西云算力与CSDN联合运营的AI算力和模型开源社区品牌,为基于DaModel智算平台的AI应用企业和泛AI开发者提供技术交流与成果转化平台。

更多推荐