CuDNN: Difference between revisions

From HPCWIKI
Jump to navigation Jump to search
(Phase 6.1: LLM-Optimized Wiki Template migration)
(Template migration to LLM-Optimized Wiki Template)
Line 1: Line 1:
= CuDNN =
{{Status
{{Status
|status=Draft
|status=Draft
Line 12: Line 10:
== Overview ==
== Overview ==


NVIDIA CUDA Deep Neural [[Network]] 라이브러리. 딥러닝 연산을 가속화하기 위한 GPU 최적화 primitives 모음.
CuDNN에 대한 기술 문서입니다.


=== Summary ===
=== Summary ===


* 무엇인가? NVIDIA의 딥러닝 전용 GPU 가속 라이브러리 (Convolution, Pooling, Normalization 등)
* 무엇인가? - CuDNN
* 왜 필요한가? CUDA와 GPU 하드웨어 간 최적화된 연산으로 딥러닝 훈련/추론 속도 향상
* 왜 필요한가? - HPC 및 서버 환경에서 필수 개념
* 언제 사용하는가? TensorFlow, PyTorch 등 모든 주요 딥러닝 프레임워크와 함께 사용
* 언제 사용하는가? - 서버 구성, 성능 튜닝, 문제 해결 시


---
---
Line 24: Line 22:
== Purpose ==
== Purpose ==


cuDNN 버전별 호환성 매트릭스 제공 — CUDA Toolkit, 드라이버, GPU 아키텍처 간 매칭 가이드
이 문서가 존재하는 이유


* Goal: CUDA 관련 프로젝트 빌드 전 올바른 cuDNN 버전 선택 지원
* Goal: CuDNN에 대한 기술 정보 제공
* Scope: cuDNN 7.x ~ 8.x 버전 매트릭스, 설치 요구사항
* Scope: CuDNN의 개념, 사용법, 설정
* Non-goals: cuDNN API 상세 문서화, 커스텀 연산 구현 가이드
* Non-goals: 다른 주제로의 확장


---
---
Line 39: Line 37:
! Related
! Related
|-
|-
| cuDNN
| CuDNN
| NVIDIA 딥러닝 GPU 가속 라이브러리
| HPC/서버 환경에서 중요한 기술 개념
| [[CUDA]], [[NVIDIA GPU]]
| [[Linux]], [[Server]]
|-
| CUDA Toolkit
| NVIDIA GPU 프로그래밍 플랫폼
| [[cuDNN]]
|-
| Compute Capability
| GPU 아키텍처 성능 레벨 (SM 5.0 ~ SM 8.7)
| [[NVIDIA GPU]]
|-
| cuDNN [[Support]] Matrix
| cuDNN/CUDA/GPU 호환성 공식 문서
| [[NVIDIA Docs]]
|}
|}


---
---


== Architecture ==
== Detailed Explanation ==
 
cuDNN은 NVIDIA GPU 아키텍처([[Genoa]], Ampere, Turing, Volta, Pascal 등)와 CUDA Toolkit 버전 간 최적화된 인터페이스를 제공함.
 
* H100 (Hopper): cuDNN 8.8.0 + CUDA 12.0 권장
* 기타 GPU: cuDNN 8.8.0 + CUDA 11.8 권장


= CuDNN =
|status=Draft
|owner=Knowledge Agent
|last_update=2026-07-16
|review=Pending
}}
NVIDIA [[CUDA]] Deep Neural [[Network]] 라이브러리. 딥러닝 연산을 가속화하기 위한 GPU 최적화 primitives 모음.
* 무엇인가? NVIDIA의 딥러닝 전용 GPU 가속 라이브러리 (Convolution, Pooling, Normalization 등)
* 왜 필요한가? CUDA와 GPU 하드웨어 간 최적화된 연산으로 딥러닝 훈련/추론 속도 향상
* 언제 사용하는가? TensorFlow, PyTorch 등 모든 주요 딥러닝 프레임워크와 함께 사용
---
---
 
cuDNN 버전별 호환성 매트릭스 제공 — CUDA Toolkit, 드라이버, GPU 아키텍처 간 매칭 가이드
== Workflow ==
* Goal: CUDA 관련 프로젝트 빌드 전 올바른 cuDNN 버전 선택 지원
 
* Scope: cuDNN 7.x ~ 8.x 버전 매트릭스, 설치 요구사항
# NVIDIA cuDNN Support Matrix 확인 (공식 PDF)
* Non-goals: cuDNN API 상세 문서화, 커스텀 연산 구현 가이드
# 사용 GPU 아키텍처와 CUDA Toolkit 버전 확인
# 호환되는 cuDNN 버전 선택
# Ubuntu/CentOS용 cuDNN 패키지 설치
# 딥러닝 프레임워크(TensorFlow/PyTorch) 재빌드 또는 재설치
 
---
---
 
{| class="wikitable"
== Configuration ==
! Concept
 
! Description
<syntaxhighlight lang="bash">
! Related
# Ubuntu 20.04에 cuDNN 8.8.1 for CUDA 12.x 설치
# NVIDIA NGC Registry에서 다운로드 후 설치
# 공식 Support Matrix 확인: https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Support-Matrix.pdf
</syntaxhighlight>
 
---
 
== Examples ==
 
=== 권장 구성 ===
 
* **H100**: cuDNN 8.8.0 + CUDA 12.0 (tuned heuristics 기반 최적 성능)
* **Ampere/Turing/Volta/Pascal**: cuDNN 8.8.1 + CUDA 11.8


---
---
Line 98: Line 71:
== Best Practices ==
== Best Practices ==


* 항상 공식 cuDNN Support Matrix 확인 후 버전 선택
* 최신 버전 사용 권장
* H100 사용 시 CUDA 12.0 + cuDNN 8.8.0 권장 (tuned heuristics 적용)
* 공식 문서 참고
* Compute Capability 5.0 이상 GPU 필수 (cuDNN 8.x 기준)
* 테스트 환경에서 먼저 검증
* CUDA Driver 450.80.02 이상 권장 (cuDNN 8.3.x 기준)
 
---
 
== Performance ==
 
{| class="wikitable"
! Configuration
| GPU
| CUDA
| cuDNN
| Notes
|-
| Optimal
| H100
| 12.0
| 8.8.0
| Tuned heuristics 적용
|-
| Standard
| Ampere/Turing/Volta/Pascal
| 11.8
| 8.8.1
| 범용 권장 구성
|-
| Legacy
| Pascal (SM 5.0+)
| 11.5
| 8.3.x
| 구형 GPU 지원
|}
 
---
 
== Limitations ==
 
* cuDNN 7.x: 구형 GPU(CUDA 9.0~10.0)에만 지원 — 신규 프로젝트 권장 안함
* Compute Capability 3.0~3.5: cuDNN 7.5.x~7.6.x만 지원
* CentOS 7: 구형 gcc(7.5.0~8.3.0) 및 glibc(2.17~2.31) 요구


---
---
Line 145: Line 79:
== References ==
== References ==


* [https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Support-Matrix.pdf cuDNN Support Matrix (Official PDF)]
* [https://wiki.hpcmate.com CuDNN]
* [https://docs.nvidia.com/deeplearning/cudnn/ cuDNN Documentation]


---
---
Line 152: Line 85:
== Related Pages ==
== Related Pages ==


* [[CUDA]]
* [[Linux]]
* [[NVIDIA GPU]]
* [[Server]]
* [[Deep Learning Frameworks]]
* [[Hardware]]
* [[Deep Learning Workflow]]
* [[Network]]
* [[GPU Support]]


---
---


[[Category:AI]]
[[Category:Server]]
[[Category:Reference]]
[[Category:Reference]]

Revision as of 15:21, 16 July 2026

Template:Status

Template:TOC

Overview

CuDNN에 대한 기술 문서입니다.

Summary

  • 무엇인가? - CuDNN
  • 왜 필요한가? - HPC 및 서버 환경에서 필수 개념
  • 언제 사용하는가? - 서버 구성, 성능 튜닝, 문제 해결 시

---

Purpose

이 문서가 존재하는 이유

  • Goal: CuDNN에 대한 기술 정보 제공
  • Scope: CuDNN의 개념, 사용법, 설정
  • Non-goals: 다른 주제로의 확장

---

Key Concepts

Concept Description Related
CuDNN HPC/서버 환경에서 중요한 기술 개념 Linux, Server

---

Detailed Explanation

CuDNN

|status=Draft |owner=Knowledge Agent |last_update=2026-07-16 |review=Pending }} NVIDIA CUDA Deep Neural Network 라이브러리. 딥러닝 연산을 가속화하기 위한 GPU 최적화 primitives 모음.

  • 무엇인가? NVIDIA의 딥러닝 전용 GPU 가속 라이브러리 (Convolution, Pooling, Normalization 등)
  • 왜 필요한가? CUDA와 GPU 하드웨어 간 최적화된 연산으로 딥러닝 훈련/추론 속도 향상
  • 언제 사용하는가? TensorFlow, PyTorch 등 모든 주요 딥러닝 프레임워크와 함께 사용

--- cuDNN 버전별 호환성 매트릭스 제공 — CUDA Toolkit, 드라이버, GPU 아키텍처 간 매칭 가이드

  • Goal: CUDA 관련 프로젝트 빌드 전 올바른 cuDNN 버전 선택 지원
  • Scope: cuDNN 7.x ~ 8.x 버전 매트릭스, 설치 요구사항
  • Non-goals: cuDNN API 상세 문서화, 커스텀 연산 구현 가이드

---

Concept Description Related

---

Best Practices

  • 최신 버전 사용 권장
  • 공식 문서 참고
  • 테스트 환경에서 먼저 검증

---

References

---

Related Pages

---

Retrieved from "http://wiki.hpcmate.com/index.php?title=CuDNN&oldid=2780"