Ubuntu 20.04安装PaddlePaddle 3.2(兼容NCCL 2.19.3)指南

系统环境准备

确保Ubuntu 20.04系统已更新至最新状态,运行以下命令:

sudo apt update && sudo apt upgrade -y

安装基础依赖项:

sudo apt install -y build-essential cmake git wget curl libssl-dev libbz2-dev libreadline-dev libsqlite3-dev llvm libncurses5-dev libncursesw5-dev xz-utils tk-dev libffi-dev liblzma-dev python3-openssl
安装NCCL 2.19.3

下载NCCL 2.19.3的.deb安装包(需根据CUDA版本选择):

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/nvidia-machine-learning-repo-ubuntu2004_1.0.0-1_amd64.deb
sudo dpkg -i nvidia-machine-learning-repo-*.deb

安装特定版本NCCL:

sudo apt install libnccl2=2.19.3-1+cuda11.0 libnccl-dev=2.19.3-1+cuda11.0

验证安装:

nccl --version
CUDA和cuDNN配置

安装CUDA 11.0(与NCCL 2.19.3兼容):

wget https://developer.download.nvidia.com/compute/cuda/11.0.3/local_installers/cuda_11.0.3_450.51.06_linux.run
sudo sh cuda_11.0.3_450.51.06_linux.run

安装对应版本的cuDNN:

sudo apt install libcudnn8=8.0.5.39-1+cuda11.0 libcudnn8-dev=8.0.5.39-1+cuda11.0
安装PaddlePaddle 3.2

创建Python虚拟环境(推荐使用conda):

conda create -n paddle_env python=3.8
conda activate paddle_env

通过pip安装PaddlePaddle GPU版本:

python -m pip install paddlepaddle-gpu==2.3.2.post110 -f https://www.paddlepaddle.org.cn/whl/linux/mkl/avx/stable.html

注意:官方可能未直接提供3.2版本,需确认版本号对应关系。若需源码编译:

git clone -b release/2.3 https://github.com/PaddlePaddle/Paddle.git
cd Paddle && mkdir build && cd build
cmake .. -DWITH_GPU=ON -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release
make -j$(nproc)
sudo make install
验证安装

运行Python验证脚本:

import paddle
paddle.utils.run_check()

检查NCCL兼容性:

print(paddle.device.get_device_properties())
常见问题处理

若遇到NCCL版本冲突,可尝试强制指定版本:

export LD_LIBRARY_PATH=/usr/lib/x86_64-linux-gnu:$LD_LIBRARY_PATH

对于CUDA路径问题,需在~/.bashrc中添加:

export PATH=/usr/local/cuda-11.0/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda-11.0/lib64:$LD_LIBRARY_PATH
性能优化建议

启用NCCL的并行优化:

export NCCL_ALGO=Ring
export NCCL_DEBUG=INFO

调整PaddlePaddle的线程设置:

paddle.set_flags({'FLAGS_cudnn_exhaustive_search': True})
Logo

Agent 垂直技术社区,欢迎活跃、内容共建。

更多推荐