CuDNN
Jump to navigation
Jump to search
CuDNN
Overview
NVIDIA CUDA Deep Neural Network 라이브러리. 딥러닝 연산을 가속화하기 위한 GPU 최적화 primitives 모음.
Summary
- 무엇인가? NVIDIA의 딥러닝 전용 GPU 가속 라이브러리 (Convolution, Pooling, Normalization 등)
- 왜 필요한가? CUDA와 GPU 하드웨어 간 최적화된 연산으로 딥러닝 훈련/추론 속도 향상
- 언제 사용하는가? TensorFlow, PyTorch 등 모든 주요 딥러닝 프레임워크와 함께 사용
---
Purpose
cuDNN 버전별 호환성 매트릭스 제공 — CUDA Toolkit, 드라이버, GPU 아키텍처 간 매칭 가이드
- Goal: CUDA 관련 프로젝트 빌드 전 올바른 cuDNN 버전 선택 지원
- Scope: cuDNN 7.x ~ 8.x 버전 매트릭스, 설치 요구사항
- Non-goals: cuDNN API 상세 문서화, 커스텀 연산 구현 가이드
---
Key Concepts
| Concept | Description | Related |
|---|---|---|
| cuDNN | NVIDIA 딥러닝 GPU 가속 라이브러리 | CUDA, NVIDIA GPU |
| CUDA Toolkit | NVIDIA GPU 프로그래밍 플랫폼 | cuDNN |
| Compute Capability | GPU 아키텍처 성능 레벨 (SM 5.0 ~ SM 8.7) | NVIDIA GPU |
| cuDNN Support Matrix | cuDNN/CUDA/GPU 호환성 공식 문서 | NVIDIA Docs |
---
Architecture
cuDNN은 NVIDIA GPU 아키텍처(Genoa, Ampere, Turing, Volta, Pascal 등)와 CUDA Toolkit 버전 간 최적화된 인터페이스를 제공함.
- H100 (Hopper): cuDNN 8.8.0 + CUDA 12.0 권장
- 기타 GPU: cuDNN 8.8.0 + CUDA 11.8 권장
---
Workflow
- NVIDIA cuDNN Support Matrix 확인 (공식 PDF)
- 사용 GPU 아키텍처와 CUDA Toolkit 버전 확인
- 호환되는 cuDNN 버전 선택
- Ubuntu/CentOS용 cuDNN 패키지 설치
- 딥러닝 프레임워크(TensorFlow/PyTorch) 재빌드 또는 재설치
---
Configuration
# Ubuntu 20.04에 cuDNN 8.8.1 for CUDA 12.x 설치
# NVIDIA NGC Registry에서 다운로드 후 설치
# 공식 Support Matrix 확인: https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Support-Matrix.pdf
---
Examples
권장 구성
- **H100**: cuDNN 8.8.0 + CUDA 12.0 (tuned heuristics 기반 최적 성능)
- **Ampere/Turing/Volta/Pascal**: cuDNN 8.8.1 + CUDA 11.8
---
Best Practices
- 항상 공식 cuDNN Support Matrix 확인 후 버전 선택
- H100 사용 시 CUDA 12.0 + cuDNN 8.8.0 권장 (tuned heuristics 적용)
- Compute Capability 5.0 이상 GPU 필수 (cuDNN 8.x 기준)
- CUDA Driver 450.80.02 이상 권장 (cuDNN 8.3.x 기준)
---
Performance
| Configuration | GPU | CUDA | cuDNN | Notes |
|---|---|---|---|---|
| Optimal | H100 | 12.0 | 8.8.0 | Tuned heuristics 적용 |
| Standard | Ampere/Turing/Volta/Pascal | 11.8 | 8.8.1 | 범용 권장 구성 |
| Legacy | Pascal (SM 5.0+) | 11.5 | 8.3.x | 구형 GPU 지원 |
---
Limitations
- cuDNN 7.x: 구형 GPU(CUDA 9.0~10.0)에만 지원 — 신규 프로젝트 권장 안함
- Compute Capability 3.0~3.5: cuDNN 7.5.x~7.6.x만 지원
- CentOS 7: 구형 gcc(7.5.0~8.3.0) 및 glibc(2.17~2.31) 요구
---
References
---
Related Pages
---