智能工控 基于VLLM本地部署DeepSeek模型
基于VLLM本地部署DeepSeek模型 什么是VLLM 如果是在企业里有一定规模的话一般都有VLLM来部署大模型，它是一个高效的大语言模型框架。它具有高效的推理和部署服务系统； 高效的内存管理：通过PagedAttention算法，vLLM实现了对KV缓存的高效管理，减少了内存浪费，优化了模型的运...
Yolov5环境搭建、数据收集、模型训练
Yolov5目标检测与算法 常用的目标检测数据集 PASCAL VOC数据集 MS COCO数据集 MS COcO的全称是Microsoft Common Objects in Context，起源于是微软于 2014年出资标注的Microsoft cOcO数据集，与lmageNet竞赛一样，被视为...
github上把项目下载下来并运行
如何把GitHub上的项目下载下来并跑起来 GitHub上把项目下载下来 本例是以UNET-ZOO项目为例， 查看项目中的README文件，win10、pycharm、python3.6、pytorch1.3.1 把README中提到的数据集下载下来。 从GitHub上下载项目到本地的工作位置， 本...
PyTorch深度学习环境搭建
PyTorch深度学习环境搭建 PyTorch简介和Pytorch 2.0的特点： Anaconda编程环境管理 在NVIDIA控制面板中可以查看驱动版本号，如本例是546.33; 下载哪个版本可以到NVIDIA官网查看，所以最高只能装CUDA 12.3,也就是12.3以下的都可以； 安装PyTor...
conda虚拟环境修改路径
conda虚拟环境修改路径 由于Anaconda虚拟环境会随着项目的增多，会变的越来越大，最终把电脑的C盘给占满。下面来介绍下怎样对Anaconda的路径进行修改，将其移到D盘中。 1、在终端输入conda info查看当前环境； 2、输入以下命令修改路径 conda config --add en...
将Conda虚拟环境连接到PyCharm
对于conda安装CUDA和配置cuDNN可以参考 创建虚拟环境并配置torch 在开始菜单栏点击AnacondaPrompt 了解基础命令： #查看有哪些虚拟环境 conda envlist #激活指定虚拟环境 conda activate 虚拟环境名 创建虚拟环境 #conda create -...
conda安装CUDA和配置cuDNN
安装torch首先从pytorch官网查询，分为CUDA的GPU显卡版和CPU版，根据实际情况选择。 pip install torch==2.4.0 torchvision==0.19.0 torchaudio==2.4.0 –index-url https://download.py...
conda环境配置及示例
如果没有cudatoolkit库可以从anaconda官网搜索包名，并在命令行中先安装conda install cudatoolkit 通过命令安装torch、torchvision、torchaudio、cudatoolkit库conda install pytorch torchvision ...
