首頁 資訊工程 HPC Linux

# 安裝 C++ 等套件

sudo apt install build-essential

# 安裝 java 默認 JRE/JDK

# 更新包
sudo apt update
# 檢查 java 是否已經安裝過
java --version
# 安裝默認 JRE
sudo apt install default-jre
# 安裝默認 JDK
sudo apt install default-jdk
# 檢查 javac，java 編譯器版本
javac --version

# GPU 環境安裝 (在虛擬環境上的做法)

RTX 3090 on Ubuntu 22.04.4 LTS + anaconda

# 安裝 nvidia driver (驅動)

sudo apt-get install nvidia-common
# add nvidia ppa
sudo add-apt-respository ppa:graphics-drivers/ppa
sudo apt update
ubuntu-drivers devices
# install nvidia driver
sudo apt install nvidia-driver-535

# 重新開機

reboot

# 確認是否有安裝成功

nvidia-smi

Imgur

# 在 Anaconda 中安裝 cuda & cuDNN

  1. 創建 conda 虛擬環境，並進入虛擬環境

    conda create -n [虛擬環境名稱] python=3.9
    conda activate [虛擬環境名稱]

  2. 查看 conda 環境中可以安裝的 cuda toolkit 版本

    conda search cudatoolkit
    conda search cudatoolkit --info

  3. 在 conda 環境中安裝 cuda toolkit

    conda install --channel "nvidia/label/cuda-11.8.0" cuda
    conda install --channel "nvidia/label/cuda-12.4.1" package

  4. 查看 conda 環境中可以安裝的 cuDNN 版本

    conda search cudnn
    conda search cudnn --info

  5. 在 conda 環境中安裝 cuDNN

    # 指定版本
    conda install cudnn=8.9
    # 不指定版本，會自動選與 cuda 相匹配的 cuDNN 版本
    conda install cudnn

# GPU 環境安裝 (在本機上的做法)

RTX 3090 on Ubuntu 22.04.4 LTS

# 移除 nvidia & cuda

sudo apt autoremove
sudo apt remove --purge '^nvidia-.*'
sudo apt remove --purge '^cuda-.*'

# 安裝 nvidia driver (驅動)

在安裝 cuda 的時候 driver 會被自動安裝，可以選擇直接到到安裝 cuda 的部分

sudo apt-get install nvidia-common
# add nvidia ppa
sudo add-apt-respository ppa:graphics-drivers/ppa
sudo apt update
ubuntu-drivers devices
# install nvidia driver
sudo apt install nvidia-driver-535

# 重新開機

reboot

# 確認是否有安裝成功

nvidia-smi

Imgur

# 安裝 Cuda

CUDA Toolkit Archive
CUDA Toolkit 11.7 Update 1 Downloads Linux

CUDA Toolkit setting

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/12.2.2/local_installers/cuda-repo-ubuntu2204-12-2-local_12.2.2-535.104.05-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-12-2-local_12.2.2-535.104.05-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-12-2-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda

# 設置環境

sudo vim ~/.bashrc
export PATH=/usr/local/cuda/bin${PATH:+:${PATH}}
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64

# 重新載入

source ~/.bashrc
sudo ldconfig

# 檢查 CUDA 是否有安裝成功

nvcc -V

Imgur

# 安裝完成後重新開機

reboot

# cuDNN

CUDNN 要去 nvidia 登入下載，必須有開發者身份。

Imgur

tar -xvf 下載的 tar 名稱
cd 解壓縮的名稱
sudo cp include/* /usr/local/cuda-12.2/include
sudo cp lib/libcudnn* /usr/local/cuda-12.2/lib64
sudo chmod a+r /usr/local/cuda-12.2/include/cudnn*
sudo chmod a+r /usr/local/cuda-12.2/lib64/libcudnn*
cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2
Imgur
# 安裝 pytorch & 檢測
# pytorch
conda install pytorch torchvision torchaudio -c hcc -c pytorch
pip install pytorch torchvision torchaudio
# 檢測
python
>>> import torch
>>> torch.cuda.is_available()
True
>>> torch.cuda.device_count()
1
>>> torch.cuda.current_device()
0
>>> torch.cuda.device(0)
<torch.cuda.device at 0x7efcc0b03be0>
>>> torch.cuda.get_device_name(0)
'GeForce GTX 3090'
# 參考資料
  • 安裝 Nvidia driver 545 CUDA 12.3 cudnn 12.x on Ubuntu 22.04