以AnythingLLM搭建本地deepseek私有知识库
安装AnythingLLM,在里面配置对话框大模型+向量处理模型,实现本地DeepSeek私有知识库的搭建;
1、前提条件
在本地环境中,我们已经完成了以下准备工作
- 已安装Ollama,用于下载、装载、管理大模型
- 已下载deepseek-r1:1.5b作为基础问答大模型
- 已在Ollama中下载nomic-embed-text作为向量化模型
- 本地已经下载并安装好AnythingLLM
2、目标
希望实现基于RAG【检索增强生成】技术的本地化微调,使DeepSeek-R1:1.5b能够依托finance.txt提供精准回答,而不是凭空生成【即减少幻觉】
3、本地finance.txt
说明:finance.txt里面存放了一些贷款相关的知识,这是一个示例文件,我们希望在询问deepseek贷款相关问题,他不要随意发挥,要依托我们的finance.txt里面的背景来组织语言,内容如下。
4、AnythingLLM详细配置