一、前言

本文仅介绍Windows11系统下安装CUDA、cuDNN、pytorch(GPU)的详细教程,使用的是Anaconda+Pycharm的配置。关于这两个软件的下载安装,本文不做赘述,如有疑问,请大家自行搜索。

二、安装CUDA

        1.CUDA安装

查看显卡型号和支持的CUDA版本。
打开终端(win+R输入cmd),输入:

nvidia-smi

显卡版本:NVIDIA GeForce GTX 1650 Ti
驱动版本:556.13
CUDA版本:12.5

进入CUDA官网,CUDA向下兼容,所以选择安装的CUDA版本应低于支持的版本

 选择合适的版本,下载

 下载后,直接安装,选择自定义

 此处的Visual Studio Integration,如果你的设备上已经安装了VS,可以勾选,否则要取消勾选,不然在后续的安装过程中会报错。

选择安装的位置,默认安装目录:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5

点击下一步,完成安装。

        2.CUDA安装异常处理

 验证CUDA是否安装完成,打开终端(win+R输入cmd),输入:

nvcc -V

如果执行后显示:nvcc不是内部或外部命令,也不是可运行的程序或批处理文件。
此时不能输出版本信息,原因可能是由于没有在系统环境变量里添加CUDA,12以上的版本会自动添加环境变量。

在CUDA的安装路径下找到bandwidthTest.exe 和 deviceQuery.exe,一般默认的安装路径在:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.2\extras\demo_suite,进入该目录,在空白地方鼠标右键点击,进入终端。
打开之后分别输入运行 .\bandwidthTest.exe 和 .\deviceQuery.exe,都可以看到Result = PASS,则表示CUDA安装成功。
此时如果执行nvcc -V,不能看到CUDA版本,则需要进行下一步。

在环境变量中再手动添加三个目录:
# 注意当前的CUDA版本,我的是v12.5
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5\lib\x64
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5\include
C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5\extras\CUPTI\libx

如果此时nvcc -V仍然无法识别命令
打开终端(win+R输入cmd),输入:

set PATH=c:
echo %PATH%

关闭终端,再打开打开终端(win+R输入cmd),输入:

echo %PATH%

此时新添加的环境变量已经生效了,输入:

nvcc -V

发现可以正常查看到cuda的信息了

三、安装cuDNN

进入cuDNN官网,这里需要注册一个NVIDIA账号,使用qq邮箱即可。
这里选择版本要注意for CUDA xx.x,如果安装的CUDA是11版本就选11,12版本就选12。

下载对应系统的安装包

解压安装包,复制以下三个文件夹

将文件夹粘贴至CUDA的默认安装路径下:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v12.5,安装完成 

四、安装pytorch(GPU版本)

安装PyTorch-GPU之前,需要先安装CUDA和cuDNN,原因如下:

CUDA是NVIDIA推出的并行计算平台和编程模型,它允许开发者使用NVIDIA的GPU进行通用计算,PyTorch-GPU版本利用CUDA来加速深度学习模型的训练和推理过程,GPU在处理并行任务时比CPU更高效。同时,许多深度学习库,包括PyTorch,都是基于CUDA构建的,以便在NVIDIA的GPU上运行。这些库需要CUDA提供的驱动和运行时库来与GPU硬件进行交互。

cuDNN是NVIDIA提供的深度学习GPU加速库。它是CUDA的一个子集,专门针对深度学习算法进行了优化。cuDNN提供了许多深度学习中常用的操作的高效实现,比如卷积、池化、归一化等,这些操作在深度学习模型中非常常见。PyTorch-GPU版本可以利用cuDNN来进一步提升性能。

因此,在安装PyTorch-GPU之前,需要先安装CUDA和cuDNN,以便能够充分利用GPU的计算能力,加速深度神经网络的学习和推理过程。确保安装过程的顺利进行。

进入pytorch官网,选择合适的版本下载:

如果你有多个项目,此处建议在虚拟环境下安装,虚拟环境可以帮助您隔离不同项目的依赖项,避免不同项目之间的冲突。虚拟环境的建立请大家自行搜索。网络不佳安装失败时也可以引用国内源。

换云:pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -r requirements.txt。清华云
换云:pip install -i https://pypi.mirrors.ustc.edu.cn/simple -r requirements.txt。中科大云

 

安装完成后,在conda环境中输入:

conda list

 查看查看当前环境下安装的包

出现上述情况,表示GPU版本的pytorch已经安装成功。

打开Pycharm,输入以下代码检验:

import torch

print(torch.__version__)
print(torch.version.cuda)
print(torch.cuda.is_available())  # 输出为True,则安装成功

出现如下结果,此次安装圆满完成!!!

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐