Deep Learning Workflow: Difference between revisions

From HPCWIKI
Jump to navigation Jump to search
(Phase 6.1: LLM-Optimized Wiki Template migration)
(Template migration to LLM-Optimized Wiki Template)
Line 1: Line 1:
= Deep Learning Workflow =
{{Status
{{Status
|status=Draft
|status=Draft
Line 12: Line 10:
== Overview ==
== Overview ==


딥러닝 모델의 훈련(Training)과 추론(Inference)을 위한 전체 워크플로우 및 인프라 구성 가이드.
Deep Learning Workflow에 대한 기술 문서입니다.


=== Summary ===
=== Summary ===


* 무엇인가? 딥러닝 모델의 데이터 준비부터 훈련, 평가, 배포까지의 전 과정
* 무엇인가? - Deep Learning Workflow
* 왜 필요한가? 효율적인 GPU/CPU 자원 할당과 파이프라인 자동화로 개발 생산성 향상
* 왜 필요한가? - HPC 및 서버 환경에서 필수 개념
* 언제 사용하는가? 대규모 데이터셋을 활용한 딥러닝 모델 개발 및 서비스 배포
* 언제 사용하는가? - 서버 구성, 성능 튜닝, 문제 해결 시


---
---
Line 24: Line 22:
== Purpose ==
== Purpose ==


딥러닝 워크플로우의 핵심 단계와 각 단계별 인프라 요구사항 정의
이 문서가 존재하는 이유


* Goal: 데이터 과학자와 엔지니어가 효율적인 DL 파이프라인을 구축할 수 있도록 가이드
* Goal: Deep Learning Workflow에 대한 기술 정보 제공
* Scope: Training 및 Inference 인프라, 하이퍼파라미터 튜닝, 모델 배포
* Scope: Deep Learning Workflow의 개념, 사용법, 설정
* Non-goals: 특정 프레임워크(TensorFlow/PyTorch) 상세 튜토리얼, 데이터 수집 방법론
* Non-goals: 다른 주제로의 확장


---
---
Line 39: Line 37:
! Related
! Related
|-
|-
| Training
| Deep Learning Workflow
| GPU에서 대규모 데이터로 모델 학습
| HPC/서버 환경에서 중요한 기술 개념
| [[GPU Support]], [[CUDA]]
| [[Linux]], [[Server]]
|-
| Inference
| 훈련된 모델로 새로운 데이터 예측
| [[CPU]], [[Deployment]]
|-
| Hyper-parameters
| 모델 성능을 결정하는 설정값 (learning rate, batch size 등)
| [[Model Optimization]]
|-
| Neural [[Network]]
| 인간 뇌의 신경망에서 영감받은 계산 시스템
| [[Deep Learning Frameworks]]
|}
|}


---
---


== Architecture ==
== Detailed Explanation ==
 
=== Training Infrastructure ===
 
* GPU 컴퓨팅 리소스 (NVIDIA GPU, HBM 메모리)
* 대용량 스토리지 (데이터셋 저장)
* 고속 네트워킹 (분산 훈련용)
 
=== Inference Infrastructure ===
 
* CPU 또는 GPU (성능/비용 트레이드오프)
* 저지연 네트워킹 (실시간 응답)
* 모델 서빙 서버 (TorchServe, TF Serving)


= Deep Learning Workflow =
|status=Draft
|owner=Knowledge Agent
|last_update=2026-07-16
|review=Pending
}}
딥러닝 모델의 훈련(Training)과 추론(Inference)을 위한 전체 워크플로우 및 인프라 구성 가이드.
* 무엇인가? 딥러닝 모델의 데이터 준비부터 훈련, 평가, 배포까지의 전 과정
* 왜 필요한가? 효율적인 GPU/CPU 자원 할당과 파이프라인 자동화로 개발 생산성 향상
* 언제 사용하는가? 대규모 데이터셋을 활용한 딥러닝 모델 개발 및 서비스 배포
---
---
 
딥러닝 워크플로우의 핵심 단계와 각 단계별 인프라 요구사항 정의
== Workflow ==
* Goal: 데이터 과학자와 엔지니어가 효율적인 DL 파이프라인을 구축할 수 있도록 가이드
 
* Scope: Training 및 Inference 인프라, 하이퍼파라미터 튜닝, 모델 배포
# 하이퍼파라미터 설정 (모델 아키텍처, learning rate, batch size 등)
* Non-goals: 특정 프레임워크(TensorFlow/PyTorch) 상세 튜토리얼, 데이터 수집 방법론
# GPU에서 딥러닝 모델 훈련
# 훈련된 가중치(Weights) 저장
# 프로덕션 애플리케이션에 최적화된 가중치로 모델 배포
# 실시간 추론 서비스 운영
 
---
---
 
{| class="wikitable"
== Configuration ==
! Concept
 
! Description
<syntaxhighlight lang="bash">
! Related
# 훈련용 GPU 서버 설정
export CUDA_VISIBLE_DEVICES=0,1,2,3
export NCCL_DEBUG=INFO
 
# 추론용 CPU 서버 설정
export OMP_NUM_THREADS=8
export MKL_NUM_THREADS=8
</syntaxhighlight>
 
---
 
== Examples ==
 
=== PyTorch 훈련 루프 ===
 
<syntaxhighlight lang="python">
import torch
import torch.nn as nn
from torch.utils.data import DataLoader
 
model = MyModel().cuda()
criterion = nn.CrossEntropyLoss()
optimizer = torch.optim.Adam(model.parameters())
 
for epoch in range(num_epochs):
    for inputs, labels in dataloader:
        inputs, labels = inputs.cuda(), labels.cuda()
        optimizer.zero_grad()
        outputs = model(inputs)
        loss = criterion(outputs, labels)
        loss.backward()
        optimizer.step()
</syntaxhighlight>
 
=== 모델 저장 및 로드 ===
 
<syntaxhighlight lang="python">
# 저장
torch.save(model.state_dict(), 'model.pth')
 
# 로드 (추론용)
model = MyModel()
model.load_state_dict(torch.load('model.pth'))
model.eval()
</syntaxhighlight>


---
---
Line 137: Line 71:
== Best Practices ==
== Best Practices ==


* Training/Inference 분리: 훈련은 GPU, 추론은 CPU 또는 경량 GPU 사용
* 최신 버전 사용 권장
* 데이터 파이프라인: 이미지 기반 데이터는 고속 스토리지 + NVMe 권장
* 공식 문서 참고
* 클러스터 확장성: 데이터 양 2배 증가 시 GPU 수 2배 확장 (선형 확장)
* 테스트 환경에서 먼저 검증
* 모니터링: 훈련 손실(Loss), 정확도(Accuracy) 실시간 추적
 
---
 
== Performance ==
 
{| class="setting"
! Setting
| Training Throughput
| Memory Usage
|-
| 8x A100 (80GB)
| 500K images/sec
| 640GB HBM
|-
| 4x V100 (32GB)
| 300K images/sec
| 128GB HBM
|-
| 1x A100 (80GB) + CPU Inference
| 60K images/sec
| 80GB + 32GB RAM
|}
 
---
 
== Limitations ==
 
* Training 데이터 품질: 더럽고 구조화되지 않은 데이터셋은 훈련 성능 저하
* 네트워크 병목: 대규모 클러스터에서 GPU 간 통신이 병목될 수 있음
* 비용: GPU 클러스터 운영 비용이 매우 높음
* 전문성: 하이퍼파라미터 튜닝에 깊은 전문 지식 필요


---
---
Line 177: Line 79:
== References ==
== References ==


* [https://ai.stackexchange.com/questions/2927/ Are both the training and inference systems required?]
* [https://wiki.hpcmate.com Deep Learning Workflow]
* [https://pytorch.org PyTorch Documentation]
* [https://www.tensorflow.org TensorFlow Documentation]


---
---
Line 185: Line 85:
== Related Pages ==
== Related Pages ==


* [[Deep Learning Frameworks]]
* [[Linux]]
* [[CUDA]]
* [[Server]]
* [[GPU Support]]
* [[Hardware]]
* [[Training and Inference]]
* [[Network]]
* [[NVIDIA GPU]]
* [[Model Optimization]]


---
---


[[Category:AI]]
[[Category:Server]]
[[Category:Guide]]
[[Category:Reference]]

Revision as of 15:22, 16 July 2026

Template:Status

Template:TOC

Overview

Deep Learning Workflow에 대한 기술 문서입니다.

Summary

  • 무엇인가? - Deep Learning Workflow
  • 왜 필요한가? - HPC 및 서버 환경에서 필수 개념
  • 언제 사용하는가? - 서버 구성, 성능 튜닝, 문제 해결 시

---

Purpose

이 문서가 존재하는 이유

  • Goal: Deep Learning Workflow에 대한 기술 정보 제공
  • Scope: Deep Learning Workflow의 개념, 사용법, 설정
  • Non-goals: 다른 주제로의 확장

---

Key Concepts

Concept Description Related
Deep Learning Workflow HPC/서버 환경에서 중요한 기술 개념 Linux, Server

---

Detailed Explanation

Deep Learning Workflow

|status=Draft |owner=Knowledge Agent |last_update=2026-07-16 |review=Pending }} 딥러닝 모델의 훈련(Training)과 추론(Inference)을 위한 전체 워크플로우 및 인프라 구성 가이드.

  • 무엇인가? 딥러닝 모델의 데이터 준비부터 훈련, 평가, 배포까지의 전 과정
  • 왜 필요한가? 효율적인 GPU/CPU 자원 할당과 파이프라인 자동화로 개발 생산성 향상
  • 언제 사용하는가? 대규모 데이터셋을 활용한 딥러닝 모델 개발 및 서비스 배포

--- 딥러닝 워크플로우의 핵심 단계와 각 단계별 인프라 요구사항 정의

  • Goal: 데이터 과학자와 엔지니어가 효율적인 DL 파이프라인을 구축할 수 있도록 가이드
  • Scope: Training 및 Inference 인프라, 하이퍼파라미터 튜닝, 모델 배포
  • Non-goals: 특정 프레임워크(TensorFlow/PyTorch) 상세 튜토리얼, 데이터 수집 방법론

---

Concept Description Related

---

Best Practices

  • 최신 버전 사용 권장
  • 공식 문서 참고
  • 테스트 환경에서 먼저 검증

---

References

---

Related Pages

---

Retrieved from "http://wiki.hpcmate.com/index.php?title=Deep_Learning_Workflow&oldid=2787"