CuDNN: Difference between revisions

From HPCWIKI
Jump to navigation Jump to search
(Phase 6.1: LLM-Optimized Wiki Template migration)
(Fix: remove --- horizontal lines (9 removed))
 
(2 intermediate revisions by the same user not shown)
Line 1: Line 1:
= CuDNN =
{{Status
{{Status
|status=Draft
|status=Draft
Line 12: Line 10:
== Overview ==
== Overview ==


NVIDIA CUDA Deep Neural [[Network]] 라이브러리. 딥러닝 연산을 가속화하기 위한 GPU 최적화 primitives 모음.
CuDNN에 대한 기술 문서입니다.


=== Summary ===
=== Summary ===


* 무엇인가? NVIDIA의 딥러닝 전용 GPU 가속 라이브러리 (Convolution, Pooling, Normalization 등)
* 무엇인가? - CuDNN
* 왜 필요한가? CUDA와 GPU 하드웨어 간 최적화된 연산으로 딥러닝 훈련/추론 속도 향상
* 왜 필요한가? - HPC 및 서버 환경에서 필수 개념
* 언제 사용하는가? TensorFlow, PyTorch 등 모든 주요 딥러닝 프레임워크와 함께 사용
* 언제 사용하는가? - 서버 구성, 성능 튜닝, 문제 해결 시


---


== Purpose ==
== Purpose ==


cuDNN 버전별 호환성 매트릭스 제공 — CUDA Toolkit, 드라이버, GPU 아키텍처 간 매칭 가이드
이 문서가 존재하는 이유


* Goal: CUDA 관련 프로젝트 빌드 전 올바른 cuDNN 버전 선택 지원
* Goal: CuDNN에 대한 기술 정보 제공
* Scope: cuDNN 7.x ~ 8.x 버전 매트릭스, 설치 요구사항
* Scope: CuDNN의 개념, 사용법, 설정
* Non-goals: cuDNN API 상세 문서화, 커스텀 연산 구현 가이드
* Non-goals: 다른 주제로의 확장


---


== Key Concepts ==
== Key Concepts ==
Line 39: Line 35:
! Related
! Related
|-
|-
| cuDNN
| CuDNN
| NVIDIA 딥러닝 GPU 가속 라이브러리
| HPC/서버 환경에서 중요한 기술 개념
| [[CUDA]], [[NVIDIA GPU]]
| [[Linux]], [[Server]]
|-
| CUDA Toolkit
| NVIDIA GPU 프로그래밍 플랫폼
| [[cuDNN]]
|-
| Compute Capability
| GPU 아키텍처 성능 레벨 (SM 5.0 ~ SM 8.7)
| [[NVIDIA GPU]]
|-
| cuDNN [[Support]] Matrix
| cuDNN/CUDA/GPU 호환성 공식 문서
| [[NVIDIA Docs]]
|}
|}


---


== Architecture ==
== Detailed Explanation ==


cuDNN은 NVIDIA GPU 아키텍처([[Genoa]], Ampere, Turing, Volta, Pascal 등)와 CUDA Toolkit 버전 간 최적화된 인터페이스를 제공함.
= CuDNN =
 
|status=Draft
* H100 (Hopper): cuDNN 8.8.0 + CUDA 12.0 권장
|owner=Knowledge Agent
* 기타 GPU: cuDNN 8.8.0 + CUDA 11.8 권장
|last_update=2026-07-16
 
|review=Pending
---
}}
 
NVIDIA [[CUDA]] Deep Neural [[Network]] 라이브러리. 딥러닝 연산을 가속화하기 위한 GPU 최적화 primitives 모음.
== Workflow ==
* 무엇인가? NVIDIA의 딥러닝 전용 GPU 가속 라이브러리 (Convolution, Pooling, Normalization 등)
 
* 왜 필요한가? CUDA와 GPU 하드웨어 간 최적화된 연산으로 딥러닝 훈련/추론 속도 향상
# NVIDIA cuDNN Support Matrix 확인 (공식 PDF)
* 언제 사용하는가? TensorFlow, PyTorch 등 모든 주요 딥러닝 프레임워크와 함께 사용
# 사용 GPU 아키텍처와 CUDA Toolkit 버전 확인
cuDNN 버전별 호환성 매트릭스 제공 — CUDA Toolkit, 드라이버, GPU 아키텍처 간 매칭 가이드
# 호환되는 cuDNN 버전 선택
* Goal: CUDA 관련 프로젝트 빌드 전 올바른 cuDNN 버전 선택 지원
# Ubuntu/CentOS용 cuDNN 패키지 설치
* Scope: cuDNN 7.x ~ 8.x 버전 매트릭스, 설치 요구사항
# 딥러닝 프레임워크(TensorFlow/PyTorch) 재빌드 또는 재설치
* Non-goals: cuDNN API 상세 문서화, 커스텀 연산 구현 가이드
 
{| class="wikitable"
---
! Concept
 
! Description
== Configuration ==
! Related
 
<syntaxhighlight lang="bash">
# Ubuntu 20.04에 cuDNN 8.8.1 for CUDA 12.x 설치
# NVIDIA NGC Registry에서 다운로드 후 설치
# 공식 Support Matrix 확인: https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Support-Matrix.pdf
</syntaxhighlight>
 
---
 
== Examples ==
 
=== 권장 구성 ===
 
* **H100**: cuDNN 8.8.0 + CUDA 12.0 (tuned heuristics 기반 최적 성능)
* **Ampere/Turing/Volta/Pascal**: cuDNN 8.8.1 + CUDA 11.8


---


== Best Practices ==
== Best Practices ==


* 항상 공식 cuDNN Support Matrix 확인 후 버전 선택
* 최신 버전 사용 권장
* H100 사용 시 CUDA 12.0 + cuDNN 8.8.0 권장 (tuned heuristics 적용)
* 공식 문서 참고
* Compute Capability 5.0 이상 GPU 필수 (cuDNN 8.x 기준)
* 테스트 환경에서 먼저 검증
* CUDA Driver 450.80.02 이상 권장 (cuDNN 8.3.x 기준)


---


== Performance ==
== References ==


{| class="wikitable"
* [https://wiki.hpcmate.com CuDNN]
! Configuration
| GPU
| CUDA
| cuDNN
| Notes
|-
| Optimal
| H100
| 12.0
| 8.8.0
| Tuned heuristics 적용
|-
| Standard
| Ampere/Turing/Volta/Pascal
| 11.8
| 8.8.1
| 범용 권장 구성
|-
| Legacy
| Pascal (SM 5.0+)
| 11.5
| 8.3.x
| 구형 GPU 지원
|}


---


== Limitations ==
== Related Pages ==
 
* cuDNN 7.x: 구형 GPU(CUDA 9.0~10.0)에만 지원 — 신규 프로젝트 권장 안함
* Compute Capability 3.0~3.5: cuDNN 7.5.x~7.6.x만 지원
* CentOS 7: 구형 gcc(7.5.0~8.3.0) 및 glibc(2.17~2.31) 요구
 
---
 
== References ==


* [https://docs.nvidia.com/deeplearning/cudnn/pdf/cuDNN-Support-Matrix.pdf cuDNN Support Matrix (Official PDF)]
* [[Linux]]
* [https://docs.nvidia.com/deeplearning/cudnn/ cuDNN Documentation]
* [[Server]]
* [[Hardware]]
* [[Network]]


---


== Related Pages ==
[[Category:Server]]
== Knowledge Graph ==


* [[CUDA]]
Related
* [[NVIDIA GPU]]
* [[Deep Learning Frameworks]]
* [[Deep Learning Workflow]]
* [[GPU Support]]


---
→ [[Linux]]
→ [[Server]]
→ [[Hardware]]
→ [[Network]]


[[Category:AI]]
[[Category:Reference]]
[[Category:Reference]]

Latest revision as of 11:27, 17 July 2026

Template:Status

Template:TOC

Overview

CuDNN에 대한 기술 문서입니다.

Summary

  • 무엇인가? - CuDNN
  • 왜 필요한가? - HPC 및 서버 환경에서 필수 개념
  • 언제 사용하는가? - 서버 구성, 성능 튜닝, 문제 해결 시


Purpose

이 문서가 존재하는 이유

  • Goal: CuDNN에 대한 기술 정보 제공
  • Scope: CuDNN의 개념, 사용법, 설정
  • Non-goals: 다른 주제로의 확장


Key Concepts

Concept Description Related
CuDNN HPC/서버 환경에서 중요한 기술 개념 Linux, Server


Detailed Explanation

CuDNN

|status=Draft |owner=Knowledge Agent |last_update=2026-07-16 |review=Pending }} NVIDIA CUDA Deep Neural Network 라이브러리. 딥러닝 연산을 가속화하기 위한 GPU 최적화 primitives 모음.

  • 무엇인가? NVIDIA의 딥러닝 전용 GPU 가속 라이브러리 (Convolution, Pooling, Normalization 등)
  • 왜 필요한가? CUDA와 GPU 하드웨어 간 최적화된 연산으로 딥러닝 훈련/추론 속도 향상
  • 언제 사용하는가? TensorFlow, PyTorch 등 모든 주요 딥러닝 프레임워크와 함께 사용

cuDNN 버전별 호환성 매트릭스 제공 — CUDA Toolkit, 드라이버, GPU 아키텍처 간 매칭 가이드

  • Goal: CUDA 관련 프로젝트 빌드 전 올바른 cuDNN 버전 선택 지원
  • Scope: cuDNN 7.x ~ 8.x 버전 매트릭스, 설치 요구사항
  • Non-goals: cuDNN API 상세 문서화, 커스텀 연산 구현 가이드
Concept Description Related


Best Practices

  • 최신 버전 사용 권장
  • 공식 문서 참고
  • 테스트 환경에서 먼저 검증


References


Related Pages

Knowledge Graph

Related

→ Linux → Server → Hardware → Network

Retrieved from "http://wiki.hpcmate.com/index.php?title=CuDNN&oldid=3282"