国产大模型+RAG搭建企业知识库
ollame run deepseek-r1:1.5b
改变默认下载路径
1、下载ollama
平台:ollama
是一个用于本地运行和管理大语言模型【LLM
】的工具。
2、环境变量配置:
OLLAMA_HOST-0.0.0.0:11434
作用是让虚拟机里的RAGFlow
能够访问到本机上的Ollama
;OLLAMA_MODELS
自定义位置,作用是ollama
默认会把模型下载工到C盘,如果希望下载到其它盘要进行配置,如本例是建在F盘的F:\DeepSeek_Pro\ollamamodes
;注,更新完两个变量要重启电脑;
3、ollame run deepseek-r1:1.5b
命令运行后,文件下载到F:\DeepSeek_Pro\ollamamodes\blobs
下;参考,如果安装以后就可以使用了,如果没有安装此时会下载并自动安装。
下载RAGflow
源代码和docker,通过docker
本地部署RAGflow
1、下载RAGflow
源代码 https://github.com/infiniflow/ragflow,本例下载到F:\DeepSeek_Pro
并将其解压;
2、下载Docker
,安装时最好以命令行来安装,这样可以改变路径,下面有介绍。
Docker
镜像是一个封装好的环境,包含了所有运行RAGFlow
所需的依赖,为和配置。- 如果镜像拉不下来,可以试试修改
Docker
的像像源。下载完以后双击安装。
- 安装以后桌面上会有docker图标,或在
cmd
命令行输入docker
出现相关信息说明安装成功了。
RAGFlow
的配置
1、打开RAGFlow
项目的docker
文件夹修改一下环境配置;本例是F:\DeepSeek_Pro\ragflow-main\docker
以记事本打开.env
文件,找到84行处修改;
注释掉84行,取消掉87行的注释。
运行docker compose -f docker-compose-gpu.yml up -d
它会自动下载镜像并启动这个服务。注:要先对安装好的好docker进行路径设置,否则的话下载的太大都放在C盘了,打开桌面版的Docker—-设置—-resources来改变路径。
如果执行报错,一般可以通过修改源来解决。打开桌面版的Docker—-设置—-Docker Engine
在里面添加以下代码也就是添加新的源。如果增加了镜像,依然找不到镜像的问题,就在网上找新的境像地址,再增加进去。
{
"builder": {
"gc": {
"defaultKeepStorage": "20GB",
"enabled": true
}
},
"experimental": false,
"features":{
},
"registry-mirrors":[
"https://docker.m.daocloud.io",
"https://docker.1panel.live",
"https://registry.docker-cn.com",
"https://cr.console.aliyun.com",
"https://mirror.ccs.tencentyun.com",
"https://huecker.io"
]
}
在下载并创建后出现dependency failed to start: container ragflow-mysql is unhealthy
报错时意味着MySQL容器未能正常启动或运行,可以按以下方法尝试解决;
依次运行如下两个命令
docker compose down -v
docker compose -f docker-compose-gpu.yml up -d
如果还是不行的话可以打开F:\DeepSeek_Pro\ragflow-main\ragflow-main\docker路径下的init.sql属性,将权限提升。
此时在浏览器中输入localhost:80
就可以打开了。
####
RagFlow
基本配置
1、将RAGFlow
设成中文显示。将英文改为简本中文。
2、在RAGflow
中构建个人的知识库,在模型提供商中找到ollama
3、在cmd命令行中查看deepseek
的名称ollama list
4、填写相关信息添加模型成功。
5、在"系统模型设置"中添加上步添加的模型;
6、创建一个知识库
默认的配置就可能够用了。
上传文件进行测试,上传以后一点要进行解析才起作用。不解析大模型是没法理解自然语言的。
7、点击"聊天"——”新建助理“
如何将docker.destop
改中成文版
1、下载汉化包https://github.com/asxez/DockerDesktop-CN
2、 将下载的文件解压至 C:\Program Files\Docker\Docker\frontend\resources
目录下。找到 app.asar
文件,备份原文件后,用中文语言包中的 app-4.3x-xxx.asar
将其重命名为app.asar
文件替换。
安装Docker Desktop时更改路径
1、下载完以后,以管理员权限打开cmd
输入以下命令;
start /w "" "Docker Desktop Installer.exe" install -accept-license --installation-dir="D:\Program Files\Docker" --wsl-default-data-root="D:\Program Files\Docker\data" --windows-containers-default-root="D:\\Program Files\\Docker"
注:D:\Program Files\Docker
是程序的安装目录;D:\Program Files\Docker\data
是docker用于存放镜像,容器,卷等数据的目录;一个名为Docker的子文件夹中记得双斜杆,在代码运行前,一定要提前手动创建好对应的文件夹,不然会报错;
2、此时在桌面上就有Docker Desktop的图标了,打开以后查看默认的资源路径就变成了D盘了;
有时Ragflow登录页面打不开,可以尝试,在C:\Windows\System32\drivers\etc\hosts文件中添加127.0.0.1 localhost; 192.168.10.20 localhost; 在docker下的.env文件中的第110行将注释取消掉;docker desktop桌面版启动后查看mysql数据库是否启动。