CUDA: Difference between revisions

From HPCWIKI
Jump to navigation Jump to search
No edit summary
(Fix: remove --- horizontal lines (9 removed))
 
(8 intermediate revisions by 2 users not shown)
Line 1: Line 1:
=== Compile CUDA code ===
{{Status
When you compile CUDA code, you should always compile only one ‘'''<code>-arch</code>'''‘ flag that matches your most used GPU cards. This will <u>enable faster runtime</u>, because code generation will occur during compilation.
|status=Draft
|owner=Knowledge Agent
|last_update=2026-07-16
|review=Pending
}}


If you only mention ‘'''<code>-gencode</code>'''‘, but omit the ‘'''<code>-arch</code>'''‘ flag, the <u>GPU code generation will occur on the '''JIT''' compiler by the CUDA driver.</u>
{{TOC}}


When you want to speed up CUDA compilation, you want to reduce the amount of irrelevant ‘'''<code>-gencode</code>'''‘ flags. However, sometimes you may wish to have better CUDA backwards compatibility by adding more comprehensive ‘'''<code>-gencode</code>'''‘ flags.
== Overview ==


CUDA에 대한 기술 문서입니다.
=== Summary ===
* 무엇인가? - CUDA
* 왜 필요한가? - HPC 및 서버 환경에서 필수 개념
* 언제 사용하는가? - 서버 구성, 성능 튜닝, 문제 해결 시
== Purpose ==
이 문서가 존재하는 이유
* Goal: CUDA에 대한 기술 정보 제공
* Scope: CUDA의 개념, 사용법, 설정
* Non-goals: 다른 주제로의 확장
== Key Concepts ==


=== CUDA Compatibility ===
{| class="wikitable"
{| class="wikitable"
!CUDA Version
! Concept
!cuDNN Version
! Description
!NCCL Version
! Related
!NVIDIA GPU Driver Version
!Compute Capability Support
|-
|-
|CUDA 12.0
| CUDA
|
| HPC/서버 환경에서 중요한 기술 개념
|
| [[Linux]], [[Server]]
|
|}
|
 
 
== Detailed Explanation ==
 
|status=Draft
|owner=Knowledge Agent
|last_update=2026-07-16
|review=Pending
}}
CUDA(NVIDIA Compute Unified Device Architecture)는 NVIDIA GPU에서 일반 연산을 수행할 수 있는 병렬 컴퓨팅 플랫폼과 프로그래밍 모델입니다.
* 무엇인가? [[NVIDIA GPU]] 병렬 컴퓨팅 플랫폼 및 프로그래밍 모델
* 왜 필요한가? GPU의 대규모 병렬 처리 능력을 활용하여 AI/ML, 과학 계산, 영상 처리 가속
* 언제 사용하는가? 딥러닝 훈련/추론, 과학 시뮬레이션, 영상 처리, 암호화 등
이 문서가 존재하는 이유
* Goal: CUDA 컴파일 방법, nvcc 플래그, PyTorch/TensorRT 설정, 호환성 정보 제공
* Scope: CUDA 컴파일 플래그, TORCH_CUDA_ARCH_LIST, CMake 설정, CUDA 호환성
* Non-goals: CUDA C++ 프로그래밍 상세, 커널 최적화 기법
{| class="wikitable"
! Concept
! Description
! Related
|-
|-
|CUDA 11.8
 
|
 
|
== Best Practices ==
|
 
|
* 최신 버전 사용 권장
|-
* 공식 문서 참고
|CUDA 11.7
* 테스트 환경에서 먼저 검증
|
 
|
 
|
== References ==
|
 
|-
* [https://wiki.hpcmate.com CUDA]
|CUDA 11.5
 
|8.3.x
 
|2.10.x
== Related Pages ==
|510.39 or later
 
|Compute Capability 3.0 to 8.6
* [[Linux]]
|-
* [[Server]]
|CUDA 11.4
* [[Hardware]]
|8.2.x
* [[Network]]
|2.10.x
 
|470.42.01 or later
 
|Compute Capability 3.0 to 8.6
[[Category:GPU]]
|-
== Knowledge Graph ==
|CUDA 11.3
 
|8.2.x
Related
|2.10.x
 
|465.19.01 or later
→ [[NVIDIA GPU]]
|Compute Capability 3.0 to 8.6
→ [[CUDA Toolkit]]
|-
→ [[CUDA Programming]]
|CUDA 11.2
→ [[MIG]]
|8.1.x
→ [[NVIDIA GPUs]]
|2.9.x
→ [[Tensor Core]]
|460.32.03 or later
 
|Compute Capability 3.0 to 8.6
[[Category:Reference]]
|-
|CUDA 11.1
|8.0.x
|2.9.x
|455.23.04 or later
|Compute Capability 3.0 to 8.6
|-
|CUDA 11.0
|7.6.x
|2.8.x
|450.36.06 or later
|Compute Capability 3.0 to 8.6
|-
|CUDA 10.2
|7.6.x
|2.7.x
|440.33 or later
|Compute Capability 3.0 to 7.5
|-
|CUDA 10.1
|7.6.x
|2.4.x
|418.39 or later
|Compute Capability 3.0 to 7.5
|-
|CUDA 10.0
|7.4.x
|2.2.x
|410.48 or later
|Compute Capability 3.0 to 7.5
|-
|CUDA 9.2
|7.2.x
|2.1.x
|396.26 or later
|Compute Capability 3.0 to 7.5
|-
|CUDA 9.1
|7.1.x
|2.0.x
|390.46 or later
|Compute Capability 3.0 to 7.5
|-
|CUDA 9.0
|7.0.x
|1.3.x
|384.81 or later
|Compute Capability 3.0 to 7.5
|-
|CUDA 8.0
|6.0.x
|1.3.x
|375.26 or later
|Compute Capability 2.0 to 6.2
|-
|CUDA 7.5
|5.1.x
|1.3.x
|352.31 or later
|Compute Capability 2.0 to 5.2
|}

Latest revision as of 11:27, 17 July 2026

Template:Status

Template:TOC

Overview

CUDA에 대한 기술 문서입니다.

Summary

  • 무엇인가? - CUDA
  • 왜 필요한가? - HPC 및 서버 환경에서 필수 개념
  • 언제 사용하는가? - 서버 구성, 성능 튜닝, 문제 해결 시


Purpose

이 문서가 존재하는 이유

  • Goal: CUDA에 대한 기술 정보 제공
  • Scope: CUDA의 개념, 사용법, 설정
  • Non-goals: 다른 주제로의 확장


Key Concepts

Concept Description Related
CUDA HPC/서버 환경에서 중요한 기술 개념 Linux, Server


Detailed Explanation

|status=Draft |owner=Knowledge Agent |last_update=2026-07-16 |review=Pending }} CUDA(NVIDIA Compute Unified Device Architecture)는 NVIDIA GPU에서 일반 연산을 수행할 수 있는 병렬 컴퓨팅 플랫폼과 프로그래밍 모델입니다.

  • 무엇인가? NVIDIA GPU 병렬 컴퓨팅 플랫폼 및 프로그래밍 모델
  • 왜 필요한가? GPU의 대규모 병렬 처리 능력을 활용하여 AI/ML, 과학 계산, 영상 처리 가속
  • 언제 사용하는가? 딥러닝 훈련/추론, 과학 시뮬레이션, 영상 처리, 암호화 등

이 문서가 존재하는 이유

  • Goal: CUDA 컴파일 방법, nvcc 플래그, PyTorch/TensorRT 설정, 호환성 정보 제공
  • Scope: CUDA 컴파일 플래그, TORCH_CUDA_ARCH_LIST, CMake 설정, CUDA 호환성
  • Non-goals: CUDA C++ 프로그래밍 상세, 커널 최적화 기법

Best Practices

  • 최신 버전 사용 권장
  • 공식 문서 참고
  • 테스트 환경에서 먼저 검증


References


Related Pages

Knowledge Graph

Related

→ NVIDIA GPU → CUDA Toolkit → CUDA Programming → MIG → NVIDIA GPUs → Tensor Core

Concept Description Related
Retrieved from "http://wiki.hpcmate.com/index.php?title=CUDA&oldid=3261"