(Ubuntu) CUDA Toolkit 설치

설치환경

• Ubuntu 22.04 LTS
• AMD EPYC 7302 16-Core Processor x 2
• Tesla A100 40G x 3

그래픽카드 드라이버 확인

• 설치된 nvidia 그래픽 드라이버 확인

nvidia-smi

• 그래픽카드 드라이버 설치 방법 참고 ((Ubuntu) Nvidia 그래픽 드라이버 설치)

CUDA Toolkit 설치

다운로드 및 설치

• 아래 주소에서 설치환경에 맞는 드라이버 선택 후 명령어 입력
• CUDA Toolkit Archive | NVIDIA Developer
• Ubuntu 22.04, CudaToolkit 11.8 버전의 경우 아래와 같음

wget https://developer.download.nvidia.com/compute/cuda/11.8.0/local_installers/cuda_11.8.0_520.61.05_linux.run\
sudo sh cuda_11.8.0_520.61.05_linux.run

• .run 파일로 다운로드 후 설치시 그래픽드라이버는 함께 설치하지 않도록 설정 (기존 그래픽드라이버와 충돌 가능)

• 기존 드라이버 제거를 추천함 - Continue

• 라이센스 동의 - accept

• Driver 체크해제 → Install

• 설치완료

환경변수 등록

• bashrc 파일 열기

sudo nano ~/.bashrc

• 맨 밑에 아래 내용 추가 (심불릭 링크 사용)

export PATH="/usr/local/cuda/bin:$PATH" 
export LD_LIBRARY_PATH="/usr/local/cuda/lib64:$LD_LIBRARY_PATH"

• 수정된 bashrc 적용

source ~/.bashrc

테스트

• 설치 완료 테스트

nvcc -V

cuDNN 설치

cuDNN 다운로드 및 설치

• cuDNN Archive | NVIDIA Developer
• 위 사이트에서 CUDA 버전과 아키텍쳐에 맞는 cuDNN 다운로드
• tar.xz로 압축된 해제

tar -xvf 파일명

• 압축 풀린 파일들을 /ur/local/로 복사-붙여넣기 및 권한 설정

sudo cp 폴더명/include/cudnn*.h /usr/local/cuda/include 
sudo cp 폴더명/lib/libcudnn* /usr/local/cuda/lib64 
sudo chmod a+r /usr/local/cuda/include/cudnn*.h /usr/local/cuda/lib64/libcudnn*

• 아래 명령어 입력 시 제대로 출력되면 성공

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

Sample 실행

• CUDA Sample은 Cuda Toolkit 11.6 버전 이후로 기본 제공되지 않음
• git clone 하여 사용
• GitHub - NVIDIA/cuda-samples: Samples for CUDA Developers which demonstrates features in CUDA Toolkit

git clone https://github.com/NVIDIA/cuda-samples.git
 
# deviceQuery 빌드
cd cuda-samples/Samples/1_Utilities/deviceQuery
make
# deviceQuery 실행
./deviceQuery

• deviceQuery 결과

---

참고

• [개발환경] RTX 4090 Ubuntu 22.04 딥러닝 학습 서버 환경 구축 (1)