国产大模型+RAG搭建企业知识库

DeepSeek搭建的本地知识库及喂饭教程


ollame run deepseek-r1:1.5b改变默认下载路径

1、下载ollama平台:ollama是一个用于本地运行和管理大语言模型【LLM】的工具。

2、环境变量配置:

  • OLLAMA_HOST-0.0.0.0:11434 作用是让虚拟机里的RAGFlow能够访问到本机上的Ollama
  • OLLAMA_MODELS 自定义位置,作用是ollama默认会把模型下载工到C盘,如果希望下载到其它盘要进行配置,如本例是建在F盘的F:\DeepSeek_Pro\ollamamodes;注,更新完两个变量要重启电脑;

3、ollame run deepseek-r1:1.5b命令运行后,文件下载到F:\DeepSeek_Pro\ollamamodes\blobs下;参考,如果安装以后就可以使用了,如果没有安装此时会下载并自动安装。

下载RAGflow源代码和docker,通过docker本地部署RAGflow

1、下载RAGflow源代码 https://github.com/infiniflow/ragflow,本例下载到F:\DeepSeek_Pro并将其解压;

2、下载Docker,安装时最好以命令行来安装,这样可以改变路径,下面有介绍。

  • Docker镜像是一个封装好的环境,包含了所有运行RAGFlow所需的依赖,为和配置。
  • 如果镜像拉不下来,可以试试修改Docker的像像源。下载完以后双击安装。

  • 安装以后桌面上会有docker图标,或在cmd命令行输入docker出现相关信息说明安装成功了。

RAGFlow的配置

1、打开RAGFlow项目的docker文件夹修改一下环境配置;本例是F:\DeepSeek_Pro\ragflow-main\docker以记事本打开.env文件,找到84行处修改;

注释掉84行,取消掉87行的注释。

运行docker compose -f docker-compose-gpu.yml up -d它会自动下载镜像并启动这个服务。注:要先对安装好的好docker进行路径设置,否则的话下载的太大都放在C盘了,打开桌面版的Docker—-设置—-resources来改变路径。

如果执行报错,一般可以通过修改源来解决。打开桌面版的Docker—-设置—-Docker Engine

在里面添加以下代码也就是添加新的源。如果增加了镜像,依然找不到镜像的问题,就在网上找新的境像地址,再增加进去。

{
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "features":{

},
  "registry-mirrors":[
   "https://docker.m.daocloud.io",
   "https://docker.1panel.live",
   "https://registry.docker-cn.com",
   "https://cr.console.aliyun.com",
   "https://mirror.ccs.tencentyun.com",
   "https://huecker.io"
]
}

在下载并创建后出现dependency failed to start: container ragflow-mysql is unhealthy报错时意味着MySQL容器未能正常启动或运行,可以按以下方法尝试解决;

依次运行如下两个命令

docker compose down -v
docker compose -f docker-compose-gpu.yml up -d

如果还是不行的话可以打开F:\DeepSeek_Pro\ragflow-main\ragflow-main\docker路径下的init.sql属性,将权限提升。

此时在浏览器中输入localhost:80就可以打开了。

####

 

RagFlow基本配置

1、将RAGFlow设成中文显示。将英文改为简本中文。

2、在RAGflow中构建个人的知识库,在模型提供商中找到ollama

3、在cmd命令行中查看deepseek的名称ollama list

4、填写相关信息添加模型成功。

5、在"系统模型设置"中添加上步添加的模型;

6、创建一个知识库

默认的配置就可能够用了。

上传文件进行测试,上传以后一点要进行解析才起作用。不解析大模型是没法理解自然语言的。


7、点击"聊天"——”新建助理“

如何将docker.destop改中成文版

1、下载汉化包https://github.com/asxez/DockerDesktop-CN

2、 将下载的文件解压至 C:\Program Files\Docker\Docker\frontend\resources 目录下。找到 app.asar 文件,备份原文件后,用中文语言包中的 app-4.3x-xxx.asar将其重命名为app.asar文件替换。

安装Docker Desktop时更改路径

1、下载完以后,以管理员权限打开cmd输入以下命令;

start /w "" "Docker Desktop Installer.exe" install -accept-license --installation-dir="D:\Program Files\Docker" --wsl-default-data-root="D:\Program Files\Docker\data" --windows-containers-default-root="D:\\Program Files\\Docker"

注:D:\Program Files\Docker是程序的安装目录;D:\Program Files\Docker\data是docker用于存放镜像,容器,卷等数据的目录;一个名为Docker的子文件夹中记得双斜杆,在代码运行前,一定要提前手动创建好对应的文件夹,不然会报错;

2、此时在桌面上就有Docker Desktop的图标了,打开以后查看默认的资源路径就变成了D盘了;

有时Ragflow登录页面打不开,可以尝试,在C:\Windows\System32\drivers\etc\hosts文件中添加127.0.0.1 localhost; 192.168.10.20 localhost; 在docker下的.env文件中的第110行将注释取消掉;docker desktop桌面版启动后查看mysql数据库是否启动。

 


转载请注明出处:  https://www.cntworld.cn
智能工控 » 国产大模型+RAG搭建企业知识库

发表回复

提供最优质的资源集合

立即查看 了解详情