CUDA 及 PyTorch 安装（NVIDIA GeForce RTX 5070为例）

版本确认

在任务管理器中查看显卡版本，ctrl + shift + esc，点击性能，查看显卡版本。

在cmd中输入 nvidia-smi 以确认电脑支持的最高CUDA版本。

安装CUDA

输入 nvcc --version 以确认电脑是否有CUDA支持

C:\Users\Administrator>nvcc --version
'nvcc' 不是内部或外部命令，也不是可运行的程序或批处理文件。

打开CUDA官网下载页面，选择对应版本后进行下载安装，RTX 5070 版本建议选择 stable 下载

正常下载后，点击所下载的 cuda_12.9.1_576.57_windows.exe 文件安装即可

再次输入 nvcc --version 以确认安装正确

创建对应python版本的anaconda环境

此环境的 python 版本确定了后续下载的 torch 版本，如下，下载 python 为 python3.11 版本，则后续选择 torch 版本时，需要选择 cp311 版本。

conda create -n DL python=3.11
conda activate DL

安装PyTorch

官网下载

需先检查是否已存在 torch，为防止依赖冲突，同一环境下的其他 torch 需要先卸载。

# 检查pytorch版本
pip show torch

# 卸载现有pytorch
pip uninstall torch torchvision torchaudio -y

在pytorch官网找到对应版本的 torch 安装包，去对应的版本获得下载链接。

https://download.pytorch.org/whl/cu129

本机安装

下载到本地后，记录下载路径，在生成好的虚拟环境中，输入pip install [下载路径] ，依次安装 torch 和 torchvision。

# 安装 torch
pip install "C:\Users\Administrator\Downloads\torch-2.8.0+cu129-cp311-cp311-win_amd64whl"

# 安装 torchvision
pip install "C:\Users\Administrator\Downloads\torchvision-0.23.0+cu129-cp311-cp311-win_amd64.whl"

安装测试

可运行以下代码测试是否安装成功

import torch
import time

def basic_cuda_test():
    """基础 CUDA 与 PyTorch 安装检测"""
    print("=== CUDA & PyTorch 安装检测 ===\n")

    # 1. 检查 CUDA 是否可用
    if not torch.cuda.is_available():
        print("❌ CUDA 不可用")
        print("   请检查：")
        print("   - NVIDIA 驱动是否安装")
        print("   - CUDA 工具包是否与 PyTorch 版本兼容")
        print("   - PyTorch 是否为 GPU 版本")
        return False

    print("✅ CUDA 可用")

    # 2. 显示关键信息
    device = torch.device("cuda")
    print(f"   GPU 型号: {torch.cuda.get_device_name(0)}")
    print(f"   显存总量: {torch.cuda.get_device_properties(0).total_memory / 1024 ** 3:.1f} GB")
    print(f"   CUDA 版本: {torch.version.cuda}")
    print(f"   PyTorch 版本: {torch.__version__}")

    # 3. 基础张量运算测试（验证 GPU 能否正常计算）
    print("\n执行基础运算测试...")
    try:
        # 创建两个随机矩阵，放到 GPU 上
        a = torch.randn(1024, 1024, device=device)
        b = torch.randn(1024, 1024, device=device)

        # 矩阵乘法
        start = time.time()
        c = torch.mm(a, b)
        torch.cuda.synchronize()  # 等待 GPU 完成计算
        elapsed = time.time() - start

        # 简单验证计算结果（求和，避免被编译器优化掉）
        sum_val = c.sum().item()
        print(f"   矩阵乘法 ({a.size()[0]}x{a.size()[1]}) 完成，耗时 {elapsed*1000:.2f} ms")
        print(f"   结果校验值: {sum_val:.6f}")
        print("✅ GPU 计算功能正常")

    except Exception as e:
        print(f"❌ GPU 计算失败: {e}")
        return False

    # 4. 显存管理测试（分配和释放）
    print("\n测试显存分配与释放...")
    try:
        test_tensor = torch.randn(100 * 1024 * 1024 // 4, device=device)  # 约 100 MB
        del test_tensor
        torch.cuda.empty_cache()
        print("✅ 显存管理正常")
    except Exception as e:
        print(f"⚠️ 显存管理测试警告: {e}")

    return True

if __name__ == "__main__":
    success = basic_cuda_test()
    if success:
        print("\n🎉 CUDA 和 PyTorch 安装正确，可正常使用 GPU！")
    else:
        print("\n❌ 检测失败，请检查您的安装环境。")

安装成功后会显示如下

=== CUDA & PyTorch 安装检测 ===

✅ CUDA 可用
   GPU 型号: NVIDIA GeForce RTX 5070 Ti
   显存总量: 15.9 GB
   CUDA 版本: 12.9
   PyTorch 版本: 2.8.0+cu129

执行基础运算测试...
   矩阵乘法 (1024x1024) 完成，耗时 46.51 ms
   结果校验值: 953.143066
✅ GPU 计算功能正常

测试显存分配与释放...
✅ 显存管理正常

🎉 CUDA 和 PyTorch 安装正确，可正常使用 GPU！

安装其余依赖（可选）

# 安装 Ultralytics YOLO（会自动安装依赖如 numpy、Pillow、torch等，但会跳过已安装的 torch）
pip install ultralytics

# 安装其他常用包（如果某些已经装过，pip会跳过）
pip install numpy pandas matplotlib scikit-learn jupyter opencv-python seaborn tqdm tensorboard