RTX 50XX 시리즈를 위한 PyTorch 딥러닝 환경 구축 최종 가이드
: 'no kernel image' 및 호환성 에러 완벽 해결법 (Anaconda, VS Code, PyTorch, CUDA)
들어가며
최신 NVIDIA GPU (RTX 50 시리즈 등)를 구매한 후 설레는 마음으로 딥러닝 환경을 구축하려 할 때, CUDA error: no kernel image is available 이나 not compatible with the current PyTorch installation 같은 호환성 에러를 마주하면 매우 당황스럽습니다.
이 문서는 이러한 문제의 원인을 명확히 설명하고, 수많은 시행착오를 거치지 않도록 처음부터 끝까지 가장 확실하고 안정적인 방법으로 Anaconda, VS Code, PyTorch, CUDA를 사용한 개발 환경을 구축하는 과정을 안내합니다.
Phase 1: 핵심 시스템 준비 (Prerequisites)
가장 먼저 컴퓨터의 기본 시스템을 준비합니다. 이미 완료된 부분이라도 올바르게 설치되었는지 확인해 보세요.
1. 필수 프로그램 설치
•
최신 NVIDIA 드라이버: 최신 GPU는 반드시 최신 드라이버가 필요합니다. NVIDIA 드라이버 다운로드 페이지에서 GPU 모델에 맞는 가장 최신 버전의 Studio 드라이버를 설치합니다.
•
최신 CUDA Toolkit: NVIDIA CUDA Toolkit 아카이브에서 최신 안정 버전을 다운로드하여 설치합니다. 설치 시 경로를 묻는 모든 과정에서 기본 경로를 절대 바꾸지 말고 그대로 진행하는 것이 매우 중요합니다.
•
•
Phase 2: 완벽한 시작을 위한 환경 정리
기존에 잘못 설치된 환경이 남아있으면 계속해서 문제가 발생합니다. **'완벽한 삭제'**가 가장 중요합니다.
1. 기존 Anaconda 가상 환경 완벽 삭제
1.
Anaconda Prompt를 실행하고, conda deactivate 명령어로 base 환경으로 돌아옵니다.
2.
conda env remove -n [삭제할 환경 이름] 명령어로 문제가 있던 가상 환경을 삭제합니다. (예: conda env remove -n pytorch-gpu)
3.
conda info --envs 명령어로 목록에 base만 남았는지 확인하여 삭제를 완료합니다.
Phase 3: 올바른 개발 환경 구축
깨끗해진 상태에서 프로젝트를 위한 새로운 독립 공간을 만듭니다.
1. 새 가상 환경 생성 및 활성화
1.
환경 생성: pytorch-gpu 라는 이름의 새 가상 환경을 Python 3.11로 만듭니다. y 옵션은 중간 질문에 자동으로 'yes'를 입력해 줍니다.
conda create -n pytorch-gpu python=3.11 -y
Bash
복사
1.
환경 활성화: 새로 만든 환경에 들어갑니다. 앞으로의 모든 작업은 이 환경 안에서 진행됩니다.
conda activate pytorch-gpu
Bash
복사
2. 올바른 PyTorch 설치 (가장 중요!)
대부분의 문제가 바로 이 단계에서 발생합니다.
•
핵심 개념: Stable 버전 vs. Nightly 버전
◦
Stable (안정) 버전: 안정성이 검증되었지만, RTX 50 시리즈 같은 최신 하드웨어를 지원하지 않습니다.
◦
Preview (Nightly) 버전: 매일 업데이트되는 개발자 버전으로, 최신 하드웨어 지원이 가장 먼저 포함됩니다.
결론: RTX 50 시리즈는 반드시 Nightly 버전을 설치해야 합니다.
•
올바른 PyTorch Nightly 버전 설치하기
1.
PyTorch 공식 홈페이지로 이동합니다.
2.
옵션을 다음과 같이 선택합니다.
•
PyTorch Build: Preview (Nightly)
•
Your OS: Windows
•
Package: Pip
•
Language: Python
•
Compute Platform: 목록에 있는 CUDA 버전 중 가장 높은 숫자 (예: CUDA 12.8)
Q: 제 PC엔 CUDA 12.9가 깔렸는데, 왜 12.8을 선택하나요?
A: NVIDIA 드라이버는 하위 호환성을 지원합니다. 즉, 12.9를 지원하는 드라이버는 12.8 기준으로 만들어진 PyTorch를 완벽하게 실행할 수 있습니다. 이것이 정상적인 방법입니다.
3.
생성된 명령어를 복사하여 (pytorch-gpu)가 활성화된 터미널에 붙여넣고 실행합니다.Bash
# 아래는 예시이며, 홈페이지에서 생성된 최신 명령어를 사용하세요.
pip3 install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu128
Bash
복사
Phase 4: VS Code 연동 및 최종 확인
1.
VS Code 인터프리터 설정:
•
VS Code에서 Ctrl + Shift + P를 누르고 Python: Select Interpreter를 검색합니다.
•
목록에서 방금 만든 pytorch-gpu 환경을 선택합니다.
2.
최종 확인 스크립트 실행:Python
•
test.py 파일을 만들고 아래 코드를 붙여넣습니다.
import torch
print(f"PyTorch Version: {torch.__version__}")
is_cuda_available = torch.cuda.is_available()
print(f"CUDA available: {is_cuda_available}")
if is_cuda_available:
gpu_name = torch.cuda.get_device_name(0)
print(f"GPU Name: {gpu_name}")
try:
device = torch.device("cuda:0")
tensor = torch.rand(3, 3).to(device)
print("\nTensor created on GPU successfully!")
print(tensor)
print(f"Tensor is on device: {tensor.device}")
except Exception as e:
print("\nAn error occurred during GPU tensor operation:")
print(e)
Python
복사
•
VS Code 터미널에서 python test.py를 실행합니다.
3.
성공 확인:
아래와 같이 PyTorch 버전 뒤에 dev가 붙어있고, 아무런 경고나 에러 없이 GPU 이름과 텐서가 출력되면 모든 과정이 성공적으로 끝난 것입니다.
Phase 5: Jupyter Notebook 설치 및 설정
데이터 분석 및 실험을 위해 Jupyter Notebook을 설치합니다.
1. Jupyter Notebook 설치
1.
가상 환경 활성화 확인: (pytorch-gpu) 환경이 활성화되어 있는지 확인합니다.
2.
pip를 통한 설치: 아래 명령어로 Jupyter Notebook을 설치합니다.
pip install jupyter notebook
Bash
복사
3.
ipykernel 설치: VS Code에서 Jupyter Notebook을 사용하려면 ipykernel이 필요합니다.
pip install ipykernel
Bash
복사
4.
커널 등록: 현재 가상 환경을 Jupyter 커널로 등록합니다.
python -m ipykernel install --user --name pytorch-gpu --display-name "Python (pytorch-gpu)"
Bash
복사
2. Jupyter Notebook 실행
•
터미널에서 실행: jupyter notebook 명령어로 브라우저에서 Jupyter를 실행할 수 있습니다.
•
VS Code에서 실행: VS Code에서 .ipynb 파일을 생성하고, 우측 상단에서 커널을 Python (pytorch-gpu)로 선택하여 사용합니다.
마치며
축하합니다! 이제 여러분의 PC에는 최신 RTX 50 시리즈 GPU의 성능을 100% 활용할 수 있는 강력하고 안정적인 PyTorch 딥러닝 개발 환경이 구축되었습니다. 이 가이드가 다른 분들의 소중한 시간을 아껴주길 바랍니다.