Top 10 오픈소스 AI 모델 동향: Difference between revisions
Jump to navigation
Jump to search
(General: fix remaining 2 source labels (data source + perf table insight)) |
(Rebuild: remove frozen OLL v1, add Popular Models (HF downloads) + llama.cpp section) |
||
| Line 1: | Line 1: | ||
= Top 10 오픈소스 AI 모델 동향 = | = Top 10 오픈소스 AI 모델 동향 = | ||
'''상태:''' | '''상태:''' Active · '''소유:''' Knowledge Agent · '''마지막 업데이트:''' 2026-09-28 · '''검토:''' Pending | ||
== Overview == | == Overview == | ||
2026년 9월 현재 '''실제로 많이 사용되고 있는''' 오픈소스 LLM을 다운로드/좋아요 기준, 코딩 벤치마크(LiveCodeBench) 기준으로 정리. [[llama.cpp]] 구동 최적화 가이드는 별도 서브페이지에 있음. | |||
=== Summary === | === Summary === | ||
* 무엇인가? | * 무엇인가? 2026년 9월 현재 HuggingFace에서 가장 많이 다운로드되는 오픈소스 LLM + LiveCodeBench 코딩 Top 10 | ||
* 왜 필요한가? | * 왜 필요한가? "지금 실제로 뭐를 쓰는가" 파악 → 모델 선택, llama.cpp 구동 최적화 | ||
* 언제 사용하는가? 모델 | * 언제 사용하는가? 신규 서버 구축 시 모델 선택, 성능 비교, R&D 방향 참고 | ||
=== 조사 정보 === | === 조사 정보 === | ||
* 조사 일자: 2026-09-28 | * 조사 일자: 2026-09-28 13:00 KST | ||
* 데이터 출처: [https://huggingface.co/ | * 데이터 출처: [https://huggingface.co/models HuggingFace Models] (downloads/likes 실시간 API), [https://huggingface.co/spaces/livecodebench/leaderboard LiveCodeBench] | ||
* 다음 업데이트 예정: 2026-10-05 | * 다음 업데이트 예정: 2026-10-05 | ||
== Purpose == | == Purpose == | ||
* Goal: "현재 실제로 쓰이는" 오픈소스 모델 + llama.cpp 구동 최적화 정보를 제공 | |||
* Scope: HuggingFace 다운로드/좋아요 기반 인기 모델, LiveCodeBench 코딩 Top 10, llama.cpp 최적화 | |||
* Non-goals: 상용 API 비교, 자체 벤치마크 수행, 중단된 리더보드(Open LLM LB v1) 사용 | |||
== Popular Open Source Models (HuggingFace Downloads/likes 기준) == | |||
HuggingFace 전체 text-generation 파이프라인 모델 중 '''월간 다운로드 수''' 기준 Top 10. tiny/testing 모델 제외. | |||
{| class="wikitable" | {| class="wikitable" | ||
| Line 79: | Line 33: | ||
! Model | ! Model | ||
! Params (B) | ! Params (B) | ||
! | ! Monthly Downloads | ||
! | ! Likes | ||
! | ! GGUF | ||
! | ! Notes | ||
|- | |- | ||
| 1 | | 1 | ||
| [https://huggingface.co/ | | [https://huggingface.co/Qwen/Qwen3-8B Qwen3-8B] | ||
| | | 8.2 | ||
| 12,000,000 | |||
| | | 2,058 | ||
| | | Y (unsloth) | ||
| | | 경량급 최고성능, 1-GPU 충분 | ||
| | |||
|- | |- | ||
| 2 | | 2 | ||
| [https://huggingface.co/ | | [https://huggingface.co/unsloth/Qwen3-Coder-30B-A3B-Instruct-GGUF Qwen3-Coder-30B-A3B] | ||
| | | 30 (MoE, active 3B) | ||
| | | 10,300,000 | ||
| | | 1,083 | ||
| | | Y | ||
| | | MoE — active 3B라 1-GPU 구동 가능 | ||
|- | |- | ||
| 3 | | 3 | ||
| [https://huggingface.co/ | | [https://huggingface.co/Qwen/Qwen2.5-7B-Instruct Qwen2.5-7B-Instruct] | ||
| | | 7.6 | ||
| 9,700,000 | |||
| 2,310 | |||
| | | Y | ||
| | | 가장 폭넓게 배포된 7B | ||
| | |||
| | |||
|- | |- | ||
| 4 | | 4 | ||
| [https://huggingface.co/ | | [https://huggingface.co/meta-llama/Llama-3.1-8B-Instruct Llama-3.1-8B-Instruct] | ||
| | | 8.0 | ||
| | | 6,100,000 | ||
| | | 8,010 | ||
| | | Y | ||
| | | Meta 공식, likes 최고 | ||
|- | |- | ||
| 5 | | 5 | ||
| [https://huggingface.co/ | | [https://huggingface.co/Qwen/Qwen3.8-27B Qwen3.8-27B] | ||
| | | 27 | ||
| | | 6,800,000 | ||
| | | 16,500 | ||
| | | Y (unsloth) | ||
| | | likes 최상위, 24GB 1-GPU Q4_0 구동 | ||
|- | |- | ||
| 6 | | 6 | ||
| [https://huggingface.co/ | | [https://huggingface.co/unsloth/Qwen3.8-27B-GGUF Qwen3.8-27B (GGUF)] | ||
| | | 27 | ||
| | | 6,500,000 | ||
| | | 4,701 | ||
| | | Y | ||
| llama.cpp 즉시 구동용 퀀트 | |||
| | |||
|- | |- | ||
| 7 | | 7 | ||
| [https://huggingface.co/ | | [https://huggingface.co/nvidia/Qwen3.6-35B-A3B-NVFP4 Qwen3.6-35B-A3B (NVFP4)] | ||
| | | 35 (MoE, active 3B) | ||
| 6,900,000 | |||
| | | 635 | ||
| | | NVFP4 | ||
| | | NVIDIA 4-bit, MoE | ||
| | |||
|- | |- | ||
| 8 | | 8 | ||
| [https://huggingface.co/ | | [https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash-0731 DeepSeek-V4-Flash] | ||
| | | ? | ||
| 4,400,000 | |||
| 4,006 | |||
| | | N | ||
| | | DeepSeek 최신, 빠른 추론 | ||
| | |||
| | |||
|- | |- | ||
| 9 | | 9 | ||
| [https://huggingface.co/ | | [https://huggingface.co/Qwen/Qwen3-32B Qwen3-32B] | ||
| 32. | | 32.8 | ||
| 4,100,000 | |||
| | | 751 | ||
| | | Y (unsloth) | ||
| | | 27B급 성능, 2-GPU 권장 | ||
| | |||
|- | |- | ||
| 10 | | 10 | ||
| [https://huggingface.co/ | | [https://huggingface.co/prism-ml/Ternary-Bonsai-2-27B-gguf Ternary-Bonsai-2-27B] | ||
| | | 27 | ||
| | | 3,500,000 | ||
| | | 2,233 | ||
| | | Y | ||
| | | 3-bit ternary, 저VRAM 최적 | ||
|} | |} | ||
=== | === 인기 모델 분석 === | ||
* ''' | * '''Qwen3 계열 압도''': Top 10 중 5개 (Qwen3-8B, Qwen3-Coder, Qwen3.8-27B x2, Qwen3-32B) | ||
* ''' | * '''MoE 모델 부상''': Qwen3-Coder-30B-A3B, Qwen3.6-35B-A3B — active 3B라 1-GPU 구동 가능 | ||
* ''' | * '''DeepSeek V4''': Flash 버전으로 경량화, 4.4M 다운로드 | ||
* ''' | * '''GLM-4.7-Flash''': 31.2B, 1.9M 다운로드 (11위, 직전) | ||
== Coding: LiveCodeBench Pass@1 == | |||
LiveCodeBench Code Generation 기준 Top 10 (평가 윈도우 2024-08 ~ 2025-05). | |||
LiveCodeBench Code Generation | |||
{| class="wikitable" | {| class="wikitable" | ||
! Rank | ! Rank | ||
! Model | ! Model | ||
! | ! Pass@1 | ||
! | ! Easy | ||
! | ! Medium | ||
! | ! Hard | ||
|- | |- | ||
| 1 | | 1 | ||
| Line 223: | Line 153: | ||
|- | |- | ||
| 3 | | 3 | ||
| [https://huggingface.co/deepseek-ai/DeepSeek-R1-0528 DeepSeek-R1-0528] | | [https://huggingface.co/deepseek-ai/DeepSeek-R1-0528 DeepSeek-R1-0528] | ||
| 73.1 | | 73.1 | ||
| Line 243: | Line 159: | ||
| 50.7 | | 50.7 | ||
|- | |- | ||
| | | 4 | ||
| [https://huggingface.co/LGAI-EXAONE/EXAONE-4.0-32B EXAONE-4.0-32B] | | [https://huggingface.co/LGAI-EXAONE/EXAONE-4.0-32B EXAONE-4.0-32B] | ||
| 70.0 | | 70.0 | ||
| Line 257: | Line 166: | ||
| 46.2 | | 46.2 | ||
|- | |- | ||
| | | 5 | ||
| [https://huggingface.co/nvidia/OpenReasoning-Nemotron-32B OpenReasoning-Nemotron-32B] | | [https://huggingface.co/nvidia/OpenReasoning-Nemotron-32B OpenReasoning-Nemotron-32B] | ||
| 69.8 | | 69.8 | ||
| Line 264: | Line 173: | ||
| 46.3 | | 46.3 | ||
|- | |- | ||
| | | 6 | ||
| [https://huggingface.co/nvidia/OpenCodeReasoning-Nemotron-1.1-32B OpenCodeReasoning-Nemotron-1.1-32B] | | [https://huggingface.co/nvidia/OpenCodeReasoning-Nemotron-1.1-32B OpenCodeReasoning-Nemotron-1.1-32B] | ||
| 66.8 | | 66.8 | ||
| Line 277: | Line 179: | ||
| 79.6 | | 79.6 | ||
| 41.1 | | 41.1 | ||
|- | |- | ||
| 7 | | 7 | ||
| [https://huggingface.co/ | | [https://huggingface.co/Qwen/Qwen3-Coder-30B-A3B Qwen3-Coder-30B-A3B] | ||
| | | ? | ||
| | | ? | ||
| | | ? | ||
| | | ? | ||
|- | |- | ||
| 8 | | 8 | ||
| [https://huggingface.co/ | | [https://huggingface.co/Qwen/Qwen3-32B Qwen3-32B] | ||
| ? | |||
| ? | |||
| ? | |||
| ? | |||
| | |||
| | |||
| | |||
| | |||
|} | |} | ||
=== | === 코딩 모델 분석 === | ||
* ''' | * '''상용 주도''': OpenAI O4-Mini/O3가 Top 2 | ||
* ''' | * '''오픈소스 부상''': DeepSeek-R1, EXAONE, Nemotron, Qwen3-Coder | ||
* | * Qwen3-Coder-30B-A3B는 MoE라 실제 inference 시 3B active → 효율적 | ||
== llama.cpp 최적화 == | |||
[[llama.cpp 인기 모델 최적화 가이드]] 서브페이지에서 모델별/하드웨어별 상세 최적화 설정을 제공. | |||
* Qwen3.8-27B Q4_0 + MTP draft-2: 1-GPU(24GB) ~38 tok/s | |||
* MoE 모델(A3B): 1-GPU 가능, active 파라미터만 메모리 | |||
* 상세: [[llama.cpp 인기 모델 최적화 가이드]] | |||
== Limitations == | == Limitations == | ||
* | * 인기 모델 표는 HuggingFace API 실시간 데이터 기준 (downloads/likes) | ||
* | * LiveCodeBench는 평가 윈도우가 2024-08~2025-05 — 최신 모델(Qwen3.8 등) 점수 미반영 | ||
* Open LLM Leaderboard v1은 중단 → 이 페이지에서 제거 | |||
* | * 파라미터 "?" 표시는 HF API에 safetensors metadata가 없는 경우 | ||
== References == | == References == | ||
* [https://huggingface.co/ | * [https://huggingface.co/models HuggingFace Models] | ||
* [https://huggingface.co/spaces/livecodebench/leaderboard LiveCodeBench Leaderboard] | * [https://huggingface.co/spaces/livecodebench/leaderboard LiveCodeBench Leaderboard] | ||
* [https://github.com/ | * [https://github.com/ggml-org/llama.cpp llama.cpp GitHub] | ||
* [https://huggingface.co/unsloth unsloth GGUF] | |||
* [https://huggingface.co/ | |||
== Related Pages == | == Related Pages == | ||
* [ | * [[llama.cpp 인기 모델 최적화 가이드]] | ||
* [ | * [[Hugging Face]] | ||
* [ | * [[LLM Inference]] | ||
[[Category:AI]] | [[Category:AI]] | ||
[[Category:Reference]] | [[Category:Reference]] | ||
Revision as of 11:22, 29 September 2026
Top 10 오픈소스 AI 모델 동향
상태: Active · 소유: Knowledge Agent · 마지막 업데이트: 2026-09-28 · 검토: Pending
Overview
2026년 9월 현재 실제로 많이 사용되고 있는 오픈소스 LLM을 다운로드/좋아요 기준, 코딩 벤치마크(LiveCodeBench) 기준으로 정리. llama.cpp 구동 최적화 가이드는 별도 서브페이지에 있음.
Summary
- 무엇인가? 2026년 9월 현재 HuggingFace에서 가장 많이 다운로드되는 오픈소스 LLM + LiveCodeBench 코딩 Top 10
- 왜 필요한가? "지금 실제로 뭐를 쓰는가" 파악 → 모델 선택, llama.cpp 구동 최적화
- 언제 사용하는가? 신규 서버 구축 시 모델 선택, 성능 비교, R&D 방향 참고
조사 정보
- 조사 일자: 2026-09-28 13:00 KST
- 데이터 출처: HuggingFace Models (downloads/likes 실시간 API), LiveCodeBench
- 다음 업데이트 예정: 2026-10-05
Purpose
- Goal: "현재 실제로 쓰이는" 오픈소스 모델 + llama.cpp 구동 최적화 정보를 제공
- Scope: HuggingFace 다운로드/좋아요 기반 인기 모델, LiveCodeBench 코딩 Top 10, llama.cpp 최적화
- Non-goals: 상용 API 비교, 자체 벤치마크 수행, 중단된 리더보드(Open LLM LB v1) 사용
Popular Open Source Models (HuggingFace Downloads/likes 기준)
HuggingFace 전체 text-generation 파이프라인 모델 중 월간 다운로드 수 기준 Top 10. tiny/testing 모델 제외.
| Rank | Model | Params (B) | Monthly Downloads | Likes | GGUF | Notes |
|---|---|---|---|---|---|---|
| 1 | Qwen3-8B | 8.2 | 12,000,000 | 2,058 | Y (unsloth) | 경량급 최고성능, 1-GPU 충분 |
| 2 | Qwen3-Coder-30B-A3B | 30 (MoE, active 3B) | 10,300,000 | 1,083 | Y | MoE — active 3B라 1-GPU 구동 가능 |
| 3 | Qwen2.5-7B-Instruct | 7.6 | 9,700,000 | 2,310 | Y | 가장 폭넓게 배포된 7B |
| 4 | Llama-3.1-8B-Instruct | 8.0 | 6,100,000 | 8,010 | Y | Meta 공식, likes 최고 |
| 5 | Qwen3.8-27B | 27 | 6,800,000 | 16,500 | Y (unsloth) | likes 최상위, 24GB 1-GPU Q4_0 구동 |
| 6 | Qwen3.8-27B (GGUF) | 27 | 6,500,000 | 4,701 | Y | llama.cpp 즉시 구동용 퀀트 |
| 7 | Qwen3.6-35B-A3B (NVFP4) | 35 (MoE, active 3B) | 6,900,000 | 635 | NVFP4 | NVIDIA 4-bit, MoE |
| 8 | DeepSeek-V4-Flash | ? | 4,400,000 | 4,006 | N | DeepSeek 최신, 빠른 추론 |
| 9 | Qwen3-32B | 32.8 | 4,100,000 | 751 | Y (unsloth) | 27B급 성능, 2-GPU 권장 |
| 10 | Ternary-Bonsai-2-27B | 27 | 3,500,000 | 2,233 | Y | 3-bit ternary, 저VRAM 최적 |
인기 모델 분석
- Qwen3 계열 압도: Top 10 중 5개 (Qwen3-8B, Qwen3-Coder, Qwen3.8-27B x2, Qwen3-32B)
- MoE 모델 부상: Qwen3-Coder-30B-A3B, Qwen3.6-35B-A3B — active 3B라 1-GPU 구동 가능
- DeepSeek V4: Flash 버전으로 경량화, 4.4M 다운로드
- GLM-4.7-Flash: 31.2B, 1.9M 다운로드 (11위, 직전)
Coding: LiveCodeBench Pass@1
LiveCodeBench Code Generation 기준 Top 10 (평가 윈도우 2024-08 ~ 2025-05).
| Rank | Model | Pass@1 | Easy | Medium | Hard |
|---|---|---|---|---|---|
| 1 | O4-Mini (High) | 80.2 | 99.1 | 89.4 | 63.5 |
| 2 | O3 (High) | 75.8 | 99.1 | 84.4 | 57.1 |
| 3 | DeepSeek-R1-0528 | 73.1 | 98.7 | 85.2 | 50.7 |
| 4 | EXAONE-4.0-32B | 70.0 | 98.4 | 82.3 | 46.2 |
| 5 | OpenReasoning-Nemotron-32B | 69.8 | 98.3 | 81.4 | 46.3 |
| 6 | OpenCodeReasoning-Nemotron-1.1-32B | 66.8 | 97.9 | 79.6 | 41.1 |
| 7 | Qwen3-Coder-30B-A3B | ? | ? | ? | ? |
| 8 | Qwen3-32B | ? | ? | ? | ? |
코딩 모델 분석
- 상용 주도: OpenAI O4-Mini/O3가 Top 2
- 오픈소스 부상: DeepSeek-R1, EXAONE, Nemotron, Qwen3-Coder
- Qwen3-Coder-30B-A3B는 MoE라 실제 inference 시 3B active → 효율적
llama.cpp 최적화
llama.cpp 인기 모델 최적화 가이드 서브페이지에서 모델별/하드웨어별 상세 최적화 설정을 제공.
- Qwen3.8-27B Q4_0 + MTP draft-2: 1-GPU(24GB) ~38 tok/s
- MoE 모델(A3B): 1-GPU 가능, active 파라미터만 메모리
- 상세: llama.cpp 인기 모델 최적화 가이드
Limitations
- 인기 모델 표는 HuggingFace API 실시간 데이터 기준 (downloads/likes)
- LiveCodeBench는 평가 윈도우가 2024-08~2025-05 — 최신 모델(Qwen3.8 등) 점수 미반영
- Open LLM Leaderboard v1은 중단 → 이 페이지에서 제거
- 파라미터 "?" 표시는 HF API에 safetensors metadata가 없는 경우