以AnythingLLM搭建本地deepseek私有知识库

安装AnythingLLM,在里面配置对话框大模型+向量处理模型,实现本地DeepSeek私有知识库的搭建;

1、前提条件

在本地环境中,我们已经完成了以下准备工作

  • 已安装Ollama,用于下载、装载、管理大模型
  • 已下载deepseek-r1:1.5b作为基础问答大模型
  • 已在Ollama中下载nomic-embed-text作为向量化模型
  • 本地已经下载并安装好AnythingLLM

2、目标

希望实现基于RAG【检索增强生成】技术的本地化微调,使DeepSeek-R1:1.5b能够依托finance.txt提供精准回答,而不是凭空生成【即减少幻觉】

3、本地finance.txt

说明:finance.txt里面存放了一些贷款相关的知识,这是一个示例文件,我们希望在询问deepseek贷款相关问题,他不要随意发挥,要依托我们的finance.txt里面的背景来组织语言,内容如下。

4、AnythingLLM详细配置

 

转载请注明出处:  https://www.cntworld.cn
智能工控 » 以AnythingLLM搭建本地deepseek私有知识库

发表回复

提供最优质的资源集合

立即查看 了解详情