CuDNN: Difference between revisions

From HPCWIKI
Jump to navigation Jump to search
(Add categories: Linux, Reference)
(Phase 6.1: LLM-Optimized Wiki Template migration)
Line 1: Line 1:
NVIDIA products has lots of compatibility issues inbetween [[CUDA]], cuDNN, driver and NVIDIA hardware by architecture.
= CuDNN =


One of that is [https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Support-Matrix.pdf cuDNN support matrix] which should check before build CUDA related project code.
{{Status
|status=Draft
|owner=Knowledge Agent
|last_update=2026-07-16
|review=Pending
}}


== cuDNN version matrix ==
{{TOC}}
<big>*For best performance, the recommended configuration is</big>


<big>'''cuDNN 8.8.0 on H100 with CUDA 12.0, cuDNN 8.8.0 on all other GPUs with CUDA 11.8, because this is the configuration that was used for tuning heuristics.'''</big>
== Overview ==
 
NVIDIA CUDA Deep Neural [[Network]] 라이브러리. 딥러닝 연산을 가속화하기 위한 GPU 최적화 primitives 모음.
 
=== Summary ===
 
* 무엇인가? NVIDIA의 딥러닝 전용 GPU 가속 라이브러리 (Convolution, Pooling, Normalization 등)
* 왜 필요한가? CUDA와 GPU 하드웨어 간 최적화된 연산으로 딥러닝 훈련/추론 속도 향상
* 언제 사용하는가? TensorFlow, PyTorch 등 모든 주요 딥러닝 프레임워크와 함께 사용
 
---
 
== Purpose ==
 
cuDNN 버전별 호환성 매트릭스 제공 — CUDA Toolkit, 드라이버, GPU 아키텍처 간 매칭 가이드
 
* Goal: CUDA 관련 프로젝트 빌드 전 올바른 cuDNN 버전 선택 지원
* Scope: cuDNN 7.x ~ 8.x 버전 매트릭스, 설치 요구사항
* Non-goals: cuDNN API 상세 문서화, 커스텀 연산 구현 가이드
 
---
 
== Key Concepts ==


{| class="wikitable"
{| class="wikitable"
!cuDNN Version
! Concept
!GPU Requirements
! Description
!CUDA Toolkit Requirements
! Related
!CUDA Driver Requirements
!Architecture
!OS Name
!OS Version
!Kernel Version
!gcc Version
!Glibc Version
|-
|-
|cuDNN 8.8.1 for CUDA 12.x
| cuDNN
|NVIDIA Hopper™3
| NVIDIA 딥러닝 GPU 가속 라이브러리
Compute Capability 5.0 or higher
| [[CUDA]], [[NVIDIA GPU]]
|CUDA Toolkit 12.0
|
|
|
|
|
|
|
|-
|-
|cuDNN 8.8.1 for CUDA 11.x
| CUDA Toolkit
|NVIDIA Ada Lovelace Architecture4
| NVIDIA GPU 프로그래밍 플랫폼
NVIDIA Ampere Architecture
| [[cuDNN]]
NVIDIA Turing™
NVIDIA Volta™
NVIDIA Pascal
[[NVIDIA GPU]] with Compute Capability SM 5.0 - SM 8.7
|CUDA Toolkit 11.8 or later
|
|
|
|
|
|
|
|-
|-
| rowspan="4" |cuDNN 8.3.x
| Compute Capability
| rowspan="13" |NVIDIA GPU with
| GPU 아키텍처 성능 레벨 (SM 5.0 ~ SM 8.7)
Compute Capability 3.5 or higher
| [[NVIDIA GPU]]
| rowspan="4" |CUDA Toolkit 11.5 or later
| rowspan="4" |CUDA Driver 450.80.02 or later
| rowspan="17" |x86_64
|Ubuntu
|20.04 LTS
|5.4.0-58-generic
|7.5.0
|2.31
|-
|-
|Ubuntu
| cuDNN [[Support]] Matrix
|18.04 LTS
| cuDNN/CUDA/GPU 호환성 공식 문서
|4.15.0-101-generic
| [[NVIDIA Docs]]
|7.5.0
|}
|2.27
 
|-
---
|
 
|
== Architecture ==
|
 
|
cuDNN은 NVIDIA GPU 아키텍처([[Genoa]], Ampere, Turing, Volta, Pascal 등)와 CUDA Toolkit 버전 간 최적화된 인터페이스를 제공함.
|
 
|-
* H100 (Hopper): cuDNN 8.8.0 + CUDA 12.0 권장
|CentOS
* 기타 GPU: cuDNN 8.8.0 + CUDA 11.8 권장
|7
 
|3.10.0-1160.45.1
---
|8.3.0
 
|2.17
== Workflow ==
|-
 
| rowspan="3" |cuDNN 8.2.x
# NVIDIA cuDNN Support Matrix 확인 (공식 PDF)
| rowspan="3" |CUDA Toolkit 11.2 or later
# 사용 GPU 아키텍처와 CUDA Toolkit 버전 확인
| rowspan="3" |CUDA Driver 450.36.06 or later
# 호환되는 cuDNN 버전 선택
|Ubuntu
# Ubuntu/CentOS용 cuDNN 패키지 설치
|20.04 LTS
# 딥러닝 프레임워크(TensorFlow/PyTorch) 재빌드 또는 재설치
|5.4.0-58-generic
 
|7.5.0
---
|2.31
 
|-
== Configuration ==
|Ubuntu
 
|18.04 LTS
<syntaxhighlight lang="bash">
|4.15.0-101-generic
# Ubuntu 20.04에 cuDNN 8.8.1 for CUDA 12.x 설치
|7.5.0
# NVIDIA NGC Registry에서 다운로드 후 설치
|2.27
# 공식 Support Matrix 확인: https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Support-Matrix.pdf
|-
</syntaxhighlight>
|CentOS
 
|7
---
|3.10.0-1160.45.1
 
|8.3.0
== Examples ==
|2.17
 
|-
=== 권장 구성 ===
| rowspan="3" |cuDNN 8.1.x
 
| rowspan="3" |CUDA Toolkit 11.0 or later
* **H100**: cuDNN 8.8.0 + CUDA 12.0 (tuned heuristics 기반 최적 성능)
| rowspan="3" |CUDA Driver 450.36.06 or later
* **Ampere/Turing/Volta/Pascal**: cuDNN 8.8.1 + CUDA 11.8
|Ubuntu
 
|20.04 LTS
---
|5.4.0-58-generic
 
|7.5.0
== Best Practices ==
|2.31
 
|-
* 항상 공식 cuDNN Support Matrix 확인 후 버전 선택
|Ubuntu
* H100 사용 시 CUDA 12.0 + cuDNN 8.8.0 권장 (tuned heuristics 적용)
|18.04 LTS
* Compute Capability 5.0 이상 GPU 필수 (cuDNN 8.x 기준)
|4.15.0-101-generic
* CUDA Driver 450.80.02 이상 권장 (cuDNN 8.3.x 기준)
|7.5.0
 
|2.27
---
|-
 
|CentOS
== Performance ==
|7
 
|3.10.0-1160.45.1
{| class="wikitable"
|8.3.0
! Configuration
|2.17
| GPU
|-
| CUDA
| rowspan="3" |cuDNN 8.0.x
| cuDNN
| rowspan="3" |CUDA Toolkit 11.0 or later
| Notes
| rowspan="3" |CUDA Driver 450.36.06 or later
|Ubuntu
|20.04 LTS
|5.4.0-58-generic
|7.5.0
|2.31
|-
|Ubuntu
|18.04 LTS
|4.15.0-101-generic
|7.5.0
|2.27
|-
|CentOS
|7
|3.10.0-1160.45.1
|8.3.0
|2.17
|-
| rowspan="2" |cuDNN 7.6.x
| rowspan="4" |NVIDIA GPU with
Compute Capability 3.0 or higher
| rowspan="2" |CUDA Toolkit 10.0 or later
| rowspan="2" |CUDA Driver 410.48 or later
|Ubuntu
|18.04 LTS
|4.15.0-101-generic
|7.3.0
|2.27
|-
|-
|CentOS
| Optimal
|7
| H100
|3.10.0-1160.45.1
| 12.0
|8.3.0
| 8.8.0
|2.17
| Tuned heuristics 적용
|-
|-
| rowspan="2" |cuDNN 7.5.x
| Standard
| rowspan="2" |CUDA Toolkit 9.0 or later
| Ampere/Turing/Volta/Pascal
| rowspan="2" |CUDA Driver 384.81 or later
| 11.8
|Ubuntu
| 8.8.1
|16.04 LTS
| 범용 권장 구성
|4.15.0-101-generic
|5.4.0
|2.23
|-
|-
|CentOS
| Legacy
|7
| Pascal (SM 5.0+)
|3.10.0-1160.45.
| 11.5
|
| 8.3.x
|
| 구형 GPU 지원
|}
|}
[[Category:Linux]]


---
== Limitations ==
* cuDNN 7.x: 구형 GPU(CUDA 9.0~10.0)에만 지원 — 신규 프로젝트 권장 안함
* Compute Capability 3.0~3.5: cuDNN 7.5.x~7.6.x만 지원
* CentOS 7: 구형 gcc(7.5.0~8.3.0) 및 glibc(2.17~2.31) 요구
---
== References ==
* [https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Support-Matrix.pdf cuDNN Support Matrix (Official PDF)]
* [https://docs.nvidia.com/deeplearning/cudnn/ cuDNN Documentation]
---
== Related Pages ==
* [[CUDA]]
* [[NVIDIA GPU]]
* [[Deep Learning Frameworks]]
* [[Deep Learning Workflow]]
* [[GPU Support]]
---
[[Category:AI]]
[[Category:Reference]]
[[Category:Reference]]

Revision as of 14:49, 16 July 2026

CuDNN

Template:Status

Template:TOC

Overview

NVIDIA CUDA Deep Neural Network 라이브러리. 딥러닝 연산을 가속화하기 위한 GPU 최적화 primitives 모음.

Summary

  • 무엇인가? NVIDIA의 딥러닝 전용 GPU 가속 라이브러리 (Convolution, Pooling, Normalization 등)
  • 왜 필요한가? CUDA와 GPU 하드웨어 간 최적화된 연산으로 딥러닝 훈련/추론 속도 향상
  • 언제 사용하는가? TensorFlow, PyTorch 등 모든 주요 딥러닝 프레임워크와 함께 사용

---

Purpose

cuDNN 버전별 호환성 매트릭스 제공 — CUDA Toolkit, 드라이버, GPU 아키텍처 간 매칭 가이드

  • Goal: CUDA 관련 프로젝트 빌드 전 올바른 cuDNN 버전 선택 지원
  • Scope: cuDNN 7.x ~ 8.x 버전 매트릭스, 설치 요구사항
  • Non-goals: cuDNN API 상세 문서화, 커스텀 연산 구현 가이드

---

Key Concepts

Concept Description Related
cuDNN NVIDIA 딥러닝 GPU 가속 라이브러리 CUDA, NVIDIA GPU
CUDA Toolkit NVIDIA GPU 프로그래밍 플랫폼 cuDNN
Compute Capability GPU 아키텍처 성능 레벨 (SM 5.0 ~ SM 8.7) NVIDIA GPU
cuDNN Support Matrix cuDNN/CUDA/GPU 호환성 공식 문서 NVIDIA Docs

---

Architecture

cuDNN은 NVIDIA GPU 아키텍처(Genoa, Ampere, Turing, Volta, Pascal 등)와 CUDA Toolkit 버전 간 최적화된 인터페이스를 제공함.

  • H100 (Hopper): cuDNN 8.8.0 + CUDA 12.0 권장
  • 기타 GPU: cuDNN 8.8.0 + CUDA 11.8 권장

---

Workflow

  1. NVIDIA cuDNN Support Matrix 확인 (공식 PDF)
  2. 사용 GPU 아키텍처와 CUDA Toolkit 버전 확인
  3. 호환되는 cuDNN 버전 선택
  4. Ubuntu/CentOS용 cuDNN 패키지 설치
  5. 딥러닝 프레임워크(TensorFlow/PyTorch) 재빌드 또는 재설치

---

Configuration

# Ubuntu 20.04에 cuDNN 8.8.1 for CUDA 12.x 설치
# NVIDIA NGC Registry에서 다운로드 후 설치
# 공식 Support Matrix 확인: https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Support-Matrix.pdf

---

Examples

권장 구성

  • **H100**: cuDNN 8.8.0 + CUDA 12.0 (tuned heuristics 기반 최적 성능)
  • **Ampere/Turing/Volta/Pascal**: cuDNN 8.8.1 + CUDA 11.8

---

Best Practices

  • 항상 공식 cuDNN Support Matrix 확인 후 버전 선택
  • H100 사용 시 CUDA 12.0 + cuDNN 8.8.0 권장 (tuned heuristics 적용)
  • Compute Capability 5.0 이상 GPU 필수 (cuDNN 8.x 기준)
  • CUDA Driver 450.80.02 이상 권장 (cuDNN 8.3.x 기준)

---

Performance

Configuration GPU CUDA cuDNN Notes
Optimal H100 12.0 8.8.0 Tuned heuristics 적용
Standard Ampere/Turing/Volta/Pascal 11.8 8.8.1 범용 권장 구성
Legacy Pascal (SM 5.0+) 11.5 8.3.x 구형 GPU 지원

---

Limitations

  • cuDNN 7.x: 구형 GPU(CUDA 9.0~10.0)에만 지원 — 신규 프로젝트 권장 안함
  • Compute Capability 3.0~3.5: cuDNN 7.5.x~7.6.x만 지원
  • CentOS 7: 구형 gcc(7.5.0~8.3.0) 및 glibc(2.17~2.31) 요구

---

References

---

Related Pages

---

Retrieved from "http://wiki.hpcmate.com/index.php?title=CuDNN&oldid=2702"