概要
使用している Nvdia GPU に対応した Driver、CUDA、CuDNN のバージョンの選び方について解説します。
- 2024/8/1 情報更新
Pytorch を利用する場合の ドライバー、CUDA、CuDNN のバージョン選択まとめ (2024/8/1 現在)
2024/8/1 現在、pip でインストールされる Pytorch が対応する CUDA のバージョンは、12.1 です。
Nvidia ドライバーや CuDNN は現時点の最新のバージョンを入れて構いません。
- Python 3.8 以上がインストールされていることを確認する。(
python --version) - CUDA 12.1 が要求するバージョンが 530.30.02 以上の Nvidia ドライバーをインストールする。(最新版のドライバーをインストールして問題ない)
- CUDA Toolkit Archive | NVIDIA Developer から CUDA 12.1 をインストールする。
- cuDNN Archive | NVIDIA Developer から CuDNN 8 をインストールする。
- pip で Pytorch をインストールする。
pip install torch torchvision torchaudio
Pytorch から GPU が利用できない場合は、インストールされている Nvidia ドライバーが古い、または CUDA のバージョンが Pytorch に合っていない可能性が高いので、その点を確認してください。
Pytorch をインストールしたら、以下のコマンドで CUDA が利用可能であるか確認できます。 False になる場合は、ドライバー、CUDA、CuDNN が適切にインストールされているか確認しましょう。
import torch
print(torch.cuda.is_available()) # True になれば、CUDA が利用できるTrue
Compute Capability
Compute Capability とは、NVIDIA の GPU の性能を決定するための指標です。各 NVIDIA GPU には特定の Compute Capability バージョンが割り当てられており、それによりアーキテクチャの世代やサポートされている機能が示されます。GPU の Compute Capability は CUDA GPUs | NVIDIA Developer から確認できます。例えば、GeForce GTX 1080 の場合、「CUDA-Enabled GeForce and TITAN Products」をクリックすると、Compute Capability 6.1 であるとわかります。
GPU とドライバーのバージョンの対応関係
使用している GPU に対応しているドライバーをインストールする必要があります。 最新のドライバーは 公式ドライバー | NVIDIA で検索して確認できます。 対応するドライバーをインストールしないと、GPU が適切に動作しません。
| GPU の世代 | Compute Capability | ドライバーのバージョン | GPU の例 |
|---|---|---|---|
| Hopper | 9.x | 525.60.13 以上 | GeForce RTX 4080 |
| Ampere | 8.x | 470.57.02 以上 | GeForce RTX 3080 |
| Turing | 7.5 | 470.57.02 以上 | GeForce RTX 2080 |
| Volta | 7.x | 470.57.02 以上 | Tesla V100 |
| Pascal | 6.x | 470.57.02 以上 | GeForce RTX 1080 |
| Maxwell | 5.x | 470.57.02 以上 | GeForce GTX 980 |
ソース: CUDA Compatibility 5. Frequently Asked Questions
Ubuntu における Nvidia ドライバーのインストール方法
いくつか方法がありますが、ここでは Nvidia が提供する Personal Package Archive (PPA) から apt を使ってインストールする方法を紹介します。
まず、ubuntu-drivers devices を実行して GPU の種類を確認してください。
古いドライバーがインストールされている場合は削除します。
sudo apt remove nvidia-*Nvidia の PPA を追加します。
sudo add-apt-repository ppa:graphics-drivers/ppa sudo apt updateパッケージの一覧を調べます。
sudo apt-cache search nvidia-driverPPA から 公式ドライバー | NVIDIA で確認したドライバーのバージョンのパッケージをインストールします。パッケージ名は適宜変更してください。
sudo apt install -y nvidia-driver-510
CUDA とドライバーのバージョンの対応関係
CUDA のバージョンによって、要求されるドライバーのバージョンが異なります。 最新の情報は、Release Notes :: CUDA Toolkit Documentation の「CUDA Toolkit and Corresponding Driver Versions」の項目を確認してください。 以下に、2024/8/1 現在の情報を記載します。例えば、Linux で CUDA 10.2.89 を使用する場合、ドライバーバージョンは 440.33 以上である必要があります。
| CUDA のバージョン | ドライバーのバージョン (Linux) | ドライバーのバージョン (Windows) |
|---|---|---|
| CUDA 12.5 Update 1 | >=555.42.06 | >=555.85 |
| CUDA 12.5 GA | >=555.42.02 | >=555.85 |
| CUDA 12.4 Update 1 | >=550.54.15 | >=551.78 |
| CUDA 12.4 GA | >=550.54.14 | >=551.61 |
| CUDA 12.3 Update 1 | >=545.23.08 | >=546.12 |
| CUDA 12.3 GA | >=545.23.06 | >=545.84 |
| CUDA 12.2 Update 2 | >=535.104.05 | >=537.13 |
| CUDA 12.2 Update 1 | >=535.86.09 | >=536.67 |
| CUDA 12.2 GA | >=535.54.03 | >=536.25 |
| CUDA 12.1 Update 1 | >=530.30.02 | >=531.14 |
| CUDA 12.1 GA | >=530.30.02 | >=531.14 |
| CUDA 12.0 Update 1 | >=525.85.12 | >=528.33 |
| CUDA 12.0 GA | >=525.60.13 | >=527.41 |
| CUDA 11.8 GA | >=520.61.05 | >=520.06 |
| CUDA 11.7 Update 1 | >=515.48.07 | >=516.31 |
| CUDA 11.7 GA | >=515.43.04 | >=516.01 |
| CUDA 11.6 Update 2 | >=510.47.03 | >=511.65 |
| CUDA 11.6 Update 1 | >=510.47.03 | >=511.65 |
| CUDA 11.6 GA | >=510.39.01 | >=511.23 |
| CUDA 11.5 Update 2 | >=495.29.05 | >=496.13 |
| CUDA 11.5 Update 1 | >=495.29.05 | >=496.13 |
| CUDA 11.5 GA | >=495.29.05 | >=496.04 |
| CUDA 11.4 Update 4 | >=470.82.01 | >=472.50 |
| CUDA 11.4 Update 3 | >=470.82.01 | >=472.50 |
| CUDA 11.4 Update 2 | >=470.57.02 | >=471.41 |
| CUDA 11.4 Update 1 | >=470.57.02 | >=471.41 |
| CUDA 11.4.0 GA | >=470.42.01 | >=471.11 |
| CUDA 11.3.1 Update 1 | >=465.19.01 | >=465.89 |
| CUDA 11.3.0 GA | >=465.19.01 | >=465.89 |
| CUDA 11.2.2 Update 2 | >=460.32.03 | >=461.33 |
| CUDA 11.2.1 Update 1 | >=460.32.03 | >=461.09 |
| CUDA 11.2.0 GA | >=460.27.03 | >=460.82 |
| CUDA 11.1.1 Update 1 | >=455.32 | >=456.81 |
| CUDA 11.1 GA | >=455.23 | >=456.38 |
| CUDA 11.0.3 Update 1 | >= 450.51.06 | >= 451.82 |
| CUDA 11.0.2 GA | >= 450.51.05 | >= 451.48 |
| CUDA 11.0.1 RC | >= 450.36.06 | >= 451.22 |
| CUDA 10.2.89 | >= 440.33 | >= 441.22 |
| CUDA 10.1 (10.1.105 general release, and updates) | >= 418.39 | >= 418.96 |
| CUDA 10.0.130 | >= 410.48 | >= 411.31 |
| CUDA 9.2 (9.2.148 Update 1) | >= 396.37 | >= 398.26 |
| CUDA 9.2 (9.2.88) | >= 396.26 | >= 397.44 |
| CUDA 9.1 (9.1.85) | >= 390.46 | >= 391.29 |
| CUDA 9.0 (9.0.76) | >= 384.81 | >= 385.54 |
| CUDA 8.0 (8.0.61 GA2) | >= 375.26 | >= 376.51 |
| CUDA 8.0 (8.0.44) | >= 367.48 | >= 369.30 |
| CUDA 7.5 (7.5.16) | >= 352.31 | >= 353.66 |
| CUDA 7.0 (7.0.28) | >= 346.46 | >= 347.62 |
CuDNN
NVIDIA cuDNN は GPU を利用して Deep Learning に関連する計算を高速に行うためのライブラリです。対応する Compute Capability は 3.0 以上なので、昨今の GPU は対応しています。 cuDNN Archive | NVIDIA Developer から CUDA のバージョンに対応した CuDNN をインストールします。
Pytorch のバージョン
公式サイト PyTorch よりインストールする Pytorch のバージョンによって、対応する CUDA のバージョンが固定されます。 2024/8 現在、CUDA 11.8、CUDA 12.1、CUDA 12.4 のバージョンに対応したバイナリが配布されています。過去のバージョンは Previous PyTorch Versions | PyTorch から探せます。
コメント