智能工控 信号处理 办公网络 大模型本地部署和私有知识库 R1模型 模型设计:预训练、指令微调(SFT)、RLHF(人类强化学习的反馈) 后训练阶段(核心)强化学习 先部署一个小点的模型,7B就已经算是很大的了; 开源的模型,下载到本地部署,大部分场景都是不合适的。 开源的模型分类: 通用领域:【模型大】 细分领域:企业落地,7B左右模型,24GGPU*2...
智能工控 信号处理 办公网络 DeepSeek搭建的本地知识库 为什么不直接使用网页版DeepSeek? 我们的需求:绝对的隐私保护和个性化知识库构建 场景:如果你希望大模型能根据你们企业的规章制度来回答问题,那么你一般需要上传企业规章制度的附件;但你仍然可能面临的问题有: 1.数据隐私问题:联网使用大模型数据隐私性无法得到绝对保证; 2.上传文件的限制问题:网...
智能工控 信号处理 办公网络 以AnythingLLM搭建本地deepseek私有知识库 安装AnythingLLM,在里面配置对话框大模型+向量处理模型,实现本地DeepSeek私有知识库的搭建; 1、前提条件 在本地环境中,我们已经完成了以下准备工作 已安装Ollama,用于下载、装载、管理大模型 已下载deepseek-r1:1.5b作为基础问答大模型 已在Ollama中下载nom...
智能工控 信号处理 办公网络 本地deepseek构建私有知识库 本文通过python传统方式调用大模型,实现本地deepseek私有知识库的搭建。 逻辑图 1. 前提条件 在本地环境中,我们已经完成了以下准备工作: 已安装 Ollama,用于下载、装载、管理大模型 已下载 deepseek-r1:1.5b 作为基础问答大模型 已在 Ollama 中下载 nomi...
智能工控 办公网络 DeepSeek入门教程 DeepSeek是什么?都能做些什么?R1是开源免费的,是普通用户使用高质量AI的降低了门槛;使一些企业和开发者都可以来进行一些研究和开发。 从应用场景来看它是面向于直接用户和开发者这两类群体提供了一系列的实用的功能, 包括常规的大语言模型所支持的智能对话、文本生成、语义理解、计算推理,还有代码生成...