PyTorch

デバイス

【機械学習】GPUの計算誤差について

機械学習を行う上で、GPUによる計算誤差が問題となる場合があります。 CPUとGPUで学習または推論を行った場合に結果に差が出る GPUの型番やソフトウェアの環境(ドライバやCUDA等)が異なる場合に差が出る 同じ計算を繰り返し行った場合に...
ソフトウェア

【PyTorch】Distributed Data Parallel(DDP)の基本

PyTorchでマルチGPUを使い学習を高速化する手法であるDistributed Data Parallel(DDP)の基本と実装の注意点について解説しています。