Windows 系统 Python 虚拟环境中安装 CUDA 相关包的完整指南: cutensor-cu12 /tensorrt-cu12-libs​ /nvidia-cudnn-cu12 等


目录

Windows 系统 Python 虚拟环境中安装 CUDA 相关包的完整指南: cutensor-cu12 /tensorrt-cu12-libs​ /nvidia-cudnn-cu12

前言

为什么需要这些包?

1. cutensor-cu12

2. tensorrt-cu12-libs​

3. nvidia-cudnn-cu12

安装准备工作

系统要求

检查当前环境

下载预编译的.whl 文件

1. cutensor-cu12

2. tensorrt-cu12-libs

3. nvidia-cudnn-cu12

安装步骤

步骤 1:创建并激活虚拟环境

步骤 2:下载.whl 文件

步骤 3:安装 cutensor-cu12

步骤 4:安装 tensorrt-cu12-libs 及其依赖

步骤 5:安装 nvidia-cudnn-cu12

验证安装

验证 cutensor-cu12

验证 tensorrt-cu12-libs

验证 nvidia-cudnn-cu12

常见问题及解决方案

问题 1:pip 安装失败,提示找不到文件

问题 2:版本不匹配错误

问题 3:依赖项缺失

问题 4:CUDA 版本不兼容

问题 5:nvidia-cudnn-cu12 安装后 PyTorch 仍无法使用

失败的尝试(供参考)

尝试 1:直接使用 pip 安装

尝试 2:使用国内镜像源

尝试 3:从源代码编译

总结

关键要点:

成功的关键因素:



前言

在 Windows 系统的 Python 虚拟环境中安装 CUDA 相关包(如 cutensor-cu12、cutensornet-cu12 和 nvidia-cudnn-cu12)时,直接使用pip install命令常常会失败。这主要是因为这些包体积较大、依赖关系复杂,或者需要特定的 CUDA 环境支持。

本文将详细介绍如何通过下载预编译的.whl文件,在 Windows Python 虚拟环境中成功安装这三个重要的 CUDA 相关包。


为什么需要这些包?

1. cutensor-cu12

NVIDIA cuTENSOR 是一个高性能张量运算库,专门用于加速各种张量操作:

  • 张量收缩(Tensor Contraction)
  • 张量转置(Tensor Transposition)
  • 张量重塑(Tensor Reshaping)
  • 元素级操作(Element-wise Operations)

适用于:科学计算、机器学习、深度学习等需要高效张量运算的场景。

2. tensorrt-cu12-libs​

NVIDIA TensorRT 是一个高性能深度学习推理优化器和运行时库:​

  • 模型优化和压缩​
  • 推理加速(比原生框架快数倍)​
  • 支持多种深度学习框架(PyTorch、TensorFlow 等)​
  • 低延迟和高吞吐量推理​

适用于:深度学习模型部署、实时推理应用、边缘计算等场景。

3. nvidia-cudnn-cu12

NVIDIA cuDNN 是深度学习 GPU 加速库,为深度神经网络提供优化的实现:

  • 卷积操作优化
  • 池化操作优化
  • 归一化操作优化
  • RNN/LSTM 操作优化

是 PyTorch、TensorFlow 等深度学习框架的重要依赖。


安装准备工作

系统要求

  • 操作系统:Windows 10/11 64 位
  • CUDA 版本:CUDA 12.x(这三个包都针对 CUDA 12.x 版本)
  • Python 版本:Python 3.8-3.12
  • 虚拟环境:建议使用 Python 虚拟环境(venv)或 Anaconda 环境

检查当前环境

# 检查Python版本
python --version

# 检查CUDA版本
nvcc --version
# 或
nvidia-smi

# 检查虚拟环境是否激活
# 命令提示符前会显示虚拟环境名称,如:(venv) C:\>


下载预编译的.whl 文件

1. cutensor-cu12

下载地址https://pypi.org/project/cutensor-cu12/#files

最新版本:2.3.1

  • 文件名称:cutensor_cu12-2.3.1-py3-none-win_amd64.whl
  • 文件大小:221.4 MB
  • 支持 Python 版本:Python 3.x
  • 支持系统:Windows x86-64

直接下载链接

https://files.pythonhosted.org/packages/a1/94/857f5a08a9db3d07fab0697f4a29a62baa19ebd89eb02aab34e04f58c90b/cutensor_cu12-2.3.1-py3-none-win_amd64.whl



2. tensorrt-cu12-libs

下载地址:https://pypi.nvidia.cn/tensorrt-cu12-libs/

这是 NVIDIA 官方的 PyPI 镜像站点,提供 Windows 版本的 TensorRT 包。​

最新版本:10.0.0b6​

  • 文件名称:tensorrt_cu12_libs-10.9.0.34-py2.py3-none-win_amd64.whl
  • 支持 Python 版本:Python 3.8-3.13​
  • 支持系统:Windows x86-64​
     
  • 文件大小:1.51G

直接下载链接示例:​

https://pypi.nvidia.cn/tensorrt-cu12-libs/tensorrt_cu12_libs-10.0.0b6-py2.py3-none-win_amd64.whl#sha256=526d2c6c23bccd5cb0aacf5cd0ca8a3c57b259649466cd82f0aacf03f65fec82



3. nvidia-cudnn-cu12

下载地址https://download.pytorch.org/whl/nightly/nvidia-cudnn-cu12/

这是 PyTorch 官方提供的 cuDNN 包,专门为 PyTorch 优化。

可用版本

  • 文件名称:nvidia_cudnn_cu12-9.13.0.50-py3-none-win_amd64.whl
  • 支持 Python 版本:Python 3.x
  • 支持系统:Windows x86-64

替代下载地址(清华源):


https://download.pytorch.org/whl/nightly/nvidia_cudnn_cu12-9.13.0.50-py3-none-win_amd64.whl


安装步骤

步骤 1:创建并激活虚拟环境

# 创建虚拟环境
python -m venv cuda_env

# 激活虚拟环境
.\cuda_env\Scripts\activate

步骤 2:下载.whl 文件

将上述三个包的.whl 文件下载到本地文件夹,例如E:\Downloads\cuda_packages\。

步骤 3:安装 cutensor-cu12

# 安装cutensor-cu12
pip install "E:\Downloads\cuda_packages\cutensor_cu12-2.3.1-py3-none-win_amd64.whl"

步骤 4:安装 tensorrt-cu12-libs 及其依赖

# 安装tensorrt-cu12-libs
pip install "E:\Downloads\cuda_packages\tensorrt_cu12_libs-10.13.3.9-py3-none-win_amd64.whl"

# 安装对应的bindings包(根据Python版本选择)
pip install "E:\Downloads\cuda_packages\tensorrt_cu12_bindings-10.13.3.9-cp313-none-win_amd64.whl"

# 安装完整的tensorrt-cu12包(可选,推荐)
pip install tensorrt-cu12 --index-url https://pypi.nvidia.cn/simple/

步骤 5:安装 nvidia-cudnn-cu12

# 方法1:从本地文件安装
pip install "E:\Downloads\cuda_packages\nvidia_cudnn_cu12-9.1.0.70-py3-none-win_amd64.whl"

# 方法2:直接从PyTorch官方地址安装(如果网络允许)
pip install nvidia-cudnn-cu12 --index-url https://download.pytorch.org/whl/nightly/nvidia-cudnn-cu12/

# 方法3:使用清华源安装
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple nvidia-cudnn-cu12==9.1.0.70


验证安装

验证 cutensor-cu12

python -c "
import cutensor
print('cutensor版本:', cutensor.__version__)
print('cutensor可用:', hasattr(cutensor, 'create'))
"

预期输出

cutensor版本: 2.3.1
cutensor可用: True

验证 tensorrt-cu12-libs

python -c "
import tensorrt
print('TensorRT版本:', tensorrt.__version__)
print('TensorRT可用:', hasattr(tensorrt, 'Logger'))
print('CUDA版本:', tensorrt.cuda_version)
"

预期输出

TensorRT版本: 10.13.3.9
TensorRT可用: True
CUDA版本: 12

验证 nvidia-cudnn-cu12

python -c "
import torch
print('PyTorch版本:', torch.__version__)
print('CUDA可用:', torch.cuda.is_available())
print('cuDNN版本:', torch.backends.cudnn.version())
print('cuDNN可用:', torch.backends.cudnn.enabled)
"

预期输出

PyTorch版本: 2.6.0+cu126
CUDA可用: True
cuDNN版本: 9100
cuDNN可用: True


常见问题及解决方案

问题 1:pip 安装失败,提示找不到文件

解决方案

  • 检查文件路径是否正确
  • 确保使用引号包裹包含空格的路径
  • 确认文件确实存在于指定位置
# 错误示例(缺少引号)
pip install E:\Downloads\cuda packages\cutensor_cu12-2.3.1-py3-none-win_amd64.whl

# 正确示例
pip install "E:\Downloads\cuda packages\cutensor_cu12-2.3.1-py3-none-win_amd64.whl"

问题 2:版本不匹配错误

解决方案

  • 确保下载的.whl 文件与 Python 版本匹配
  • 确保下载的.whl 文件与 CUDA 版本匹配(必须是 CUDA 12.x)
  • 检查错误信息中的版本要求

问题 3:依赖项缺失

解决方案

# 更新pip
python -m pip install --upgrade pip

# 安装可能缺失的依赖项
pip install setuptools wheel

# 重新安装
pip install "E:\Downloads\cuda_packages\cutensor_cu12-2.3.1-py3-none-win_amd64.whl"

问题 4:CUDA 版本不兼容

解决方案

  • 确认系统已安装 CUDA 12.x 版本
  • 检查显卡驱动是否支持 CUDA 12.x
  • 更新 NVIDIA 显卡驱动到最新版本
# 检查CUDA驱动版本
nvidia-smi

问题 5:nvidia-cudnn-cu12 安装后 PyTorch 仍无法使用

解决方案

# 确保PyTorch是CUDA版本 (用官网链接或稍加修改,一同安装相关组件)
pip uninstall torch torchvision torchaudio
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126

# 验证安装
python -c "import torch; print(torch.cuda.is_available())"


失败的尝试(供参考)

在找到成功方法之前,我尝试了以下方法但都失败了(CUDA相关包):

尝试 1:直接使用 pip 安装

pip install cutensor-cu12
pip install cutensornet-cu12
pip install nvidia-cudnn-cu12

结果:安装失败,主要原因包括网络问题、版本不匹配、依赖项缺失等。

尝试 2:使用国内镜像源

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple cutensor-cu12

结果:部分包可以安装,但版本可能不是最新的,且依赖关系处理不好。

尝试 3:从源代码编译

git clone https://github.com/NVIDIA/cuTENSOR.git
cd cuTENSOR
python setup.py install

结果:编译失败,Windows 环境下编译 CUDA 相关库非常复杂。


总结

在 Windows 系统的 Python 虚拟环境中安装 CUDA 相关包,下载预编译的.whl 文件并本地安装是目前最可靠的方法

关键要点:

  1. 版本匹配:确保下载的.whl 文件与您的 Python 版本、CUDA 版本和 Windows 系统匹配
  2. 虚拟环境:务必在 Python 虚拟环境中安装,避免污染系统环境
  3. 正确路径:使用引号包裹包含空格的文件路径
  4. 验证安装:安装后务必验证每个包是否正常工作

成功的关键因素:

  • 预编译包:避免了复杂的编译过程
  • 版本精确匹配:确保了兼容性
  • 本地安装:避免了网络问题和 pip 的限制
  • 虚拟环境隔离:确保了环境的纯净性

通过本文的方法,您应该能够成功在 Windows 系统的 Python 虚拟环境中安装这三个重要的 CUDA 相关包,为您的科学计算和深度学习项目提供强大的 GPU 加速支持。


参考链接

Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐