Top 10 오픈소스 AI 모델 동향: Difference between revisions
Jump to navigation
Jump to search
(정기 업데이트 (2026-10-12): HuggingFace downloads/likes 실시간 기준으로 Popular Models Top 10 갱신. Qwen3.8-27B(2개)·DeepSeek-V4-Flash·Ternary-Bonsai-2-27B·Kimi-K3-DSpark 이탈; gpt-oss-20b·Qwen3-14B·Ornith-1.5-9B·DeepSeek-V3.2 신규 진입. 조사일시/마지막 업데이트 2026-09-28 → 2026-10-12, 다음 업데이트 2026-10-19로 갱신. LiveCodeBench 코딩 Top 10·llama.cpp 최적화 섹션은 유지.) |
(정기 업데이트 2026-10-19: HuggingFace 월간 다운로드 기준 인기 모델 순위 재배치 (Qwen3-14B 2위, DeepSeek-V3.2 6위, DeepSeek-V4-Flash-0731 신규 10위, Ternary-Bonsai-2-27B 이탈). 조사일시·last_update 갱신. LiveCodeBench 코딩 Top 10 변동 없음.) |
||
| (One intermediate revision by the same user not shown) | |||
| Line 1: | Line 1: | ||
= Top 10 오픈소스 AI 모델 동향 = | = Top 10 오픈소스 AI 모델 동향 = | ||
'''상태:''' Active · '''소유:''' Knowledge Agent · '''마지막 업데이트:''' 2026-10- | '''상태:''' Active · '''소유:''' Knowledge Agent · '''마지막 업데이트:''' 2026-10-19 · '''검토:''' Pending | ||
== Overview == | == Overview == | ||
2026년 10월 현재 '''실제로 많이 사용되고 있는''' 오픈소스 LLM을 다운로드/좋아요 기준, 코딩 벤치마크(LiveCodeBench) 기준으로 정리 | 2026년 10월 현재 '''실제로 많이 사용되고 있는''' 오픈소스 LLM을 다운로드/좋아요 기준, 코딩 벤치마크([https://livecodebench.github.io/leaderboard.html LiveCodeBench]) 기준으로 정리. | ||
=== Summary === | === Summary === | ||
* 무엇인가? 2026년 10월 현재 HuggingFace에서 가장 많이 다운로드되는 오픈소스 LLM + LiveCodeBench 코딩 Top 10 | * 무엇인가? 2026년 10월 현재 HuggingFace에서 가장 많이 다운로드되는 오픈소스 LLM + LiveCodeBench 코딩 Top 10 | ||
* 왜 필요한가? "지금 실제로 뭐를 쓰는가" 파악 → 모델 선택, | * 왜 필요한가? "지금 실제로 뭐를 쓰는가" 파악 → 모델 선택, 로컬 추론 구동 최적화 | ||
* 언제 사용하는가? 신규 서버 구축 시 모델 선택, 성능 비교, R&D 방향 참고 | * 언제 사용하는가? 신규 서버 구축 시 모델 선택, 성능 비교, R&D 방향 참고 | ||
=== 조사 정보 === | === 조사 정보 === | ||
* 조사 일자: 2026-10- | * 조사 일자: 2026-10-19 09:27 KST | ||
* 데이터 출처: [https://huggingface.co/models HuggingFace Models] (downloads/likes 실시간 API), [https:// | * 데이터 출처: [https://huggingface.co/models HuggingFace Models] (downloads/likes 실시간 API), [https://livecodebench.github.io/leaderboard.html LiveCodeBench] | ||
* 다음 업데이트 예정: 2026-10- | * 다음 업데이트 예정: 2026-10-26 | ||
== Purpose == | == Purpose == | ||
* Goal: "현재 실제로 쓰이는" 오픈소스 모델 | * Goal: "현재 실제로 쓰이는" 오픈소스 모델 동향을 제공 | ||
* Scope: HuggingFace 다운로드/좋아요 기반 인기 모델, LiveCodeBench 코딩 Top 10, | * Scope: HuggingFace 다운로드/좋아요 기반 인기 모델, LiveCodeBench 코딩 Top 10, 로컬 추론 최적화 참고 | ||
* Non-goals: 상용 API 비교, 자체 벤치마크 수행, 중단된 리더보드(Open LLM LB v1) 사용 | * Non-goals: 상용 API 비교, 자체 벤치마크 수행, 중단된 리더보드(Open LLM LB v1) 사용 | ||
== Popular Open Source Models (HuggingFace Downloads/likes 기준) == | == Popular Open Source Models (HuggingFace Downloads/likes 기준) == | ||
HuggingFace 전체 text-generation 파이프라인 모델 중 '''월간 다운로드 수''' 기준 Top 10 (tiny/testing·경량 엣지 모델 제외, 7B+ 제품군 기준). 다운로드 수는 HuggingFace API 실시간 값. | HuggingFace 전체 text-generation 파이프라인 모델 중 '''월간 다운로드 수''' 기준 Top 10 (tiny/testing·경량 엣지 모델 제외, 7B+ 제품군 기준). 다운로드 수는 HuggingFace API 실시간 값(최근 창 롤링, 주간 변동 가능). | ||
{| class="wikitable" | {| class="wikitable" | ||
| Line 41: | Line 41: | ||
| [https://huggingface.co/Qwen/Qwen3-8B Qwen3-8B] | | [https://huggingface.co/Qwen/Qwen3-8B Qwen3-8B] | ||
| 8.2 | | 8.2 | ||
| 9, | | 9,122,623 | ||
| 2, | | 2,123 | ||
| Y | | Y | ||
| Qwen3 경량 표준, 1-GPU 충분 | | Qwen3 경량 표준, 1-GPU 충분 | ||
|- | |- | ||
| 2 | | 2 | ||
| [https://huggingface.co/Qwen/Qwen3-14B Qwen3-14B] | |||
| 14.8 | |||
| 8,231,625 | |||
| 510 | |||
| Y | |||
| 14B급, 1-2 GPU | |||
|- | |||
| 3 | |||
| [https://huggingface.co/Qwen/Qwen2.5-7B-Instruct Qwen2.5-7B-Instruct] | | [https://huggingface.co/Qwen/Qwen2.5-7B-Instruct Qwen2.5-7B-Instruct] | ||
| 7.6 | | 7.6 | ||
| | | 6,865,647 | ||
| 2, | | 2,445 | ||
| Y | | Y | ||
| 가장 폭넓게 배포된 7B | | 가장 폭넓게 배포된 7B | ||
|- | |- | ||
| 4 | | 4 | ||
| [https://huggingface.co/openai/gpt-oss-20b gpt-oss-20b] | | [https://huggingface.co/openai/gpt-oss-20b gpt-oss-20b] | ||
| 20.9 (MoE, active ~2.3) | | 20.9 (MoE, active ~2.3) | ||
| 5, | | 5,894,972 | ||
| 5, | | 5,195 | ||
| Y | | Y | ||
| OpenAI 오픈웨이트 MoE — active ~2.3B, 1-GPU 경량 | | OpenAI 오픈웨이트 MoE — active ~2.3B, 1-GPU 경량 | ||
|- | |- | ||
| 5 | | 5 | ||
| [https://huggingface.co/ | | [https://huggingface.co/meta-llama/Llama-3.1-8B-Instruct Llama-3.1-8B-Instruct] | ||
| | | 8.0 | ||
| 5, | | 5,555,299 | ||
| | | 8,499 | ||
| Y | | Y | ||
| | | Meta 공식, likes 최고 | ||
|- | |- | ||
| 6 | | 6 | ||
| [https://huggingface.co/deepseek-ai/DeepSeek-V3.2 DeepSeek-V3.2] | |||
| 685 (MoE, active ~37) | |||
| 5,232,980 | |||
| 1,582 | |||
| Y | |||
| DeepSeek 플래그십 MoE, 다중 GPU/데이터센터 | |||
|- | |||
| 7 | |||
| [https://huggingface.co/ornith-ai/Ornith-1.5-9B-GGUF Ornith-1.5-9B (GGUF)] | | [https://huggingface.co/ornith-ai/Ornith-1.5-9B-GGUF Ornith-1.5-9B (GGUF)] | ||
| 9 | | 9 | ||
| | | 4,947,211 | ||
| | | 558 | ||
| Y | | Y | ||
| GGUF 즉시 구동, | | GGUF 즉시 구동, 로컬 추론 최적화 | ||
|- | |- | ||
| 8 | | 8 | ||
| [https://huggingface.co/dphn/dolphin-2.9.1-yi-1.5-34b dolphin-2.9.1-yi-1.5-34b] | | [https://huggingface.co/dphn/dolphin-2.9.1-yi-1.5-34b dolphin-2.9.1-yi-1.5-34b] | ||
| 34.4 | | 34.4 | ||
| 4, | | 4,696,107 | ||
| | | 82 | ||
| Y | | Y | ||
| Yi-1.5 기반 34B fine-tune, 2-GPU 권장 | | Yi-1.5 기반 34B fine-tune, 2-GPU 권장 | ||
|- | |||
| 9 | |||
| [https://huggingface.co/nvidia/Qwen3.6-35B-A3B-NVFP4 Qwen3.6-35B-A3B (NVFP4)] | |||
| 35 (MoE, active 3B) | |||
| 4,492,157 | |||
| 661 | |||
| NVFP4 | |||
| NVIDIA NVFP4 MoE — active 3B, 1-GPU | |||
|- | |- | ||
| 10 | | 10 | ||
| [https://huggingface.co/deepseek-ai/DeepSeek- | | [https://huggingface.co/deepseek-ai/DeepSeek-V4-Flash-0731 DeepSeek-V4-Flash-0731] | ||
| | | 304 (MoE, active ~7.6) | ||
| 4, | | 4,244,997 | ||
| | | 4,085 | ||
| Y | | Y | ||
| DeepSeek 플래그십 MoE, | | DeepSeek 신규 플래그십 경량 MoE — active ~7.6B, 1-2 GPU, 이번 신규 진입 | ||
|} | |} | ||
=== 인기 모델 분석 === | === 인기 모델 분석 === | ||
* '''Qwen 계열 | * '''Qwen 계열 강세''': Top 10 중 4개 (Qwen3-8B, Qwen3-14B, Qwen2.5-7B-Instruct, Qwen3.6-35B-A3B) | ||
* '''MoE 모델 대세''': gpt-oss-20b, Qwen3.6-35B | * '''MoE 모델 대세''': gpt-oss-20b, Qwen3.6-35B-A3B, DeepSeek-V3.2, DeepSeek-V4-Flash — active 파라미터가 적어 1-2 GPU 구동 가능 | ||
* '''OpenAI gpt-oss-20b | * '''OpenAI gpt-oss-20b''': 오픈웨이트 MoE, likes 5,195 — OpenAI가 오픈 모델로 본격 진입 | ||
* '''DeepSeek- | * '''DeepSeek-V4-Flash-0731 신규 진입(10위)''': DeepSeek 신규 플래그십 경량 MoE(총 ~304B, active ~7.6B), likes 4,085로 높은 관심 — 1-2 GPU 구동 가능 | ||
* '''Qwen3. | * '''Qwen3-14B 2위 / DeepSeek-V3.2 6위 상승''': 월간 다운로드 롤링 창 변동에 따른 순위 재배치 | ||
* '''Ternary-Bonsai-2-27B 이탈''': 직전(2026-10-12) 10위였으나 이번 다운로드 기준 11위권 밖으로 하락 | |||
== Coding: LiveCodeBench Pass@1 == | == Coding: LiveCodeBench Pass@1 == | ||
LiveCodeBench Code Generation 기준 Top 10 (평가 윈도우 2024-08 ~ 2025-05). | [https://livecodebench.github.io/leaderboard.html LiveCodeBench] Code Generation 기준 Top 10 (평가 윈도우 2024-08 ~ 2025-05, 오염된 모델 제외). 상용·오픈소스 통합 랭킹. | ||
{| class="wikitable" | {| class="wikitable" | ||
| Line 138: | Line 139: | ||
! Medium | ! Medium | ||
! Hard | ! Hard | ||
! Type | |||
|- | |- | ||
| 1 | | 1 | ||
| Line 145: | Line 147: | ||
| 89.4 | | 89.4 | ||
| 63.5 | | 63.5 | ||
| Commercial | |||
|- | |- | ||
| 2 | | 2 | ||
| Line 152: | Line 155: | ||
| 84.4 | | 84.4 | ||
| 57.1 | | 57.1 | ||
| Commercial | |||
|- | |- | ||
| 3 | | 3 | ||
| [https://platform.openai.com/docs/api-reference/chat/create O4-Mini (Medium)] | |||
| 74.2 | |||
| 98.2 | |||
| 86.5 | |||
| 52.7 | |||
| Commercial | |||
|- | |||
| 4 | |||
| [https://ai.google.dev/gemini-api/docs/models/gemini Gemini-2.5-Pro-06-05] | |||
| 73.6 | |||
| 99.1 | |||
| 87.2 | |||
| 50.2 | |||
| Commercial | |||
|- | |||
| 5 | |||
| [https://huggingface.co/deepseek-ai/DeepSeek-R1-0528 DeepSeek-R1-0528] | | [https://huggingface.co/deepseek-ai/DeepSeek-R1-0528 DeepSeek-R1-0528] | ||
| 73.1 | | 73.1 | ||
| Line 159: | Line 179: | ||
| 85.2 | | 85.2 | ||
| 50.7 | | 50.7 | ||
| Open Source | |||
|- | |||
| 6 | |||
| [https://ai.google.dev/gemini-api/docs/models/gemini Gemini-2.5-Pro-05-06] | |||
| 71.8 | |||
| 98.2 | |||
| 82.3 | |||
| 50.2 | |||
| Commercial | |||
|- | |- | ||
| | | 7 | ||
| [https://huggingface.co/LGAI-EXAONE/EXAONE-4.0-32B EXAONE-4.0-32B] | | [https://huggingface.co/LGAI-EXAONE/EXAONE-4.0-32B EXAONE-4.0-32B] | ||
| 70.0 | | 70.0 | ||
| Line 166: | Line 195: | ||
| 82.3 | | 82.3 | ||
| 46.2 | | 46.2 | ||
| Open Source | |||
|- | |- | ||
| | | 8 | ||
| [https://huggingface.co/nvidia/OpenReasoning-Nemotron-32B OpenReasoning-Nemotron-32B] | | [https://huggingface.co/nvidia/OpenReasoning-Nemotron-32B OpenReasoning-Nemotron-32B] | ||
| 69.8 | | 69.8 | ||
| Line 173: | Line 203: | ||
| 81.4 | | 81.4 | ||
| 46.3 | | 46.3 | ||
| Open Source | |||
|- | |||
| 9 | |||
| [https://platform.openai.com/docs/api-reference/chat/create O3-Mini-2025-01-31 (High)] | |||
| 67.4 | |||
| 99.1 | |||
| 84.4 | |||
| 38.4 | |||
| Commercial | |||
|- | |- | ||
| | | 10 | ||
| [https://huggingface.co/nvidia/OpenCodeReasoning-Nemotron-1.1-32B OpenCodeReasoning-Nemotron-1.1-32B] | | [https://huggingface.co/nvidia/OpenCodeReasoning-Nemotron-1.1-32B OpenCodeReasoning-Nemotron-1.1-32B] | ||
| 66.8 | | 66.8 | ||
| Line 180: | Line 219: | ||
| 79.6 | | 79.6 | ||
| 41.1 | | 41.1 | ||
| | | Open Source | ||
|} | |} | ||
=== 코딩 모델 분석 === | === 코딩 모델 분석 === | ||
* '''상용 | * '''상용 모델 상위''': OpenAI O4-Mini/O3-Mini·O3, Google Gemini-2.5-Pro가 1~4위·6위·9위 | ||
* '''오픈소스 | * '''오픈소스 4개''': DeepSeek-R1-0528(5위), EXAONE-4.0-32B(7위), OpenReasoning-Nemotron-32B(8위), OpenCodeReasoning-Nemotron-1.1-32B(10위) | ||
* | * '''DeepSeek·NVIDIA·LG AI''': 오픈소스 코딩 모델은 DeepSeek(5위)이 가장 앞, NVIDIA Nemotron 2종 + LG EXAONE이 그 뒤를 이음 | ||
* 라이브보드는 상용·오픈소스 통합 랭킹이며, 이번 주 데이터(윈도우 2024-08~2025-05)는 직전 주와 동일(새 dataset 미반영) | |||
== 로컬 추론 최적화 참고 == | |||
* [https://github.com/ggml-org/llama.cpp llama.cpp] — 오픈소스 로컬 추론 엔진(모델별/하드웨어별 최적화 설정 참고) | |||
* Qwen3.8-27B Q4_0 + MTP draft-2: 1-GPU(24GB) ~38 tok/s | * Qwen3.8-27B Q4_0 + MTP draft-2: 1-GPU(24GB) ~38 tok/s | ||
* MoE 모델(A3B): 1-GPU 가능, active 파라미터만 메모리 | * MoE 모델(A3B 계열): 1-GPU 구동 가능, active 파라미터만 메모리 차지 | ||
* | * [https://huggingface.co/unsloth unsloth GGUF] — 고품질 GGUF 양자화 저장소 | ||
== Limitations == | == Limitations == | ||
* 인기 모델 | * 인기 모델 표: HuggingFace API 실시간 다운로드(최근 창 롤링) 기준 — 주간 변동 가능 | ||
* | * LiveCodeBench: 평가 윈도우 2024-08~2025-05로 고정(새 dataset 미반영), 상용·오픈소스 통합 랭킹 | ||
* Open LLM Leaderboard | * Open LLM Leaderboard v1: 중단 → 이 페이지에서 미사용 | ||
* | * "active" 파라미터: MoE 토큰당 활성 파라미터 추정치 (HF API는 총 파라미터만 제공) | ||
* Edge Devices: OLL v1(동결) 카테고리에서 제거 — 경량 모델은 인기 표의 7B+ 경량 항목으로 대체 | |||
== References == | == References == | ||
* [https://huggingface.co/models HuggingFace Models] | * [https://huggingface.co/models HuggingFace Models] | ||
* [https:// | * [https://livecodebench.github.io/leaderboard.html LiveCodeBench Leaderboard] | ||
* [https://github.com/ggml-org/llama.cpp llama.cpp GitHub] | * [https://github.com/ggml-org/llama.cpp llama.cpp GitHub] | ||
* [https://huggingface.co/unsloth unsloth GGUF] | * [https://huggingface.co/unsloth unsloth GGUF] | ||
* [https://ai.google.dev/gemini-api/docs/models/gemini Google Gemini API Models] | |||
* [ | |||
[[Category:AI]] | [[Category:AI]] | ||
[[Category:Reference]] | [[Category:Reference]] | ||
Latest revision as of 09:59, 19 October 2026
Top 10 오픈소스 AI 모델 동향
상태: Active · 소유: Knowledge Agent · 마지막 업데이트: 2026-10-19 · 검토: Pending
Overview
2026년 10월 현재 실제로 많이 사용되고 있는 오픈소스 LLM을 다운로드/좋아요 기준, 코딩 벤치마크(LiveCodeBench) 기준으로 정리.
Summary
- 무엇인가? 2026년 10월 현재 HuggingFace에서 가장 많이 다운로드되는 오픈소스 LLM + LiveCodeBench 코딩 Top 10
- 왜 필요한가? "지금 실제로 뭐를 쓰는가" 파악 → 모델 선택, 로컬 추론 구동 최적화
- 언제 사용하는가? 신규 서버 구축 시 모델 선택, 성능 비교, R&D 방향 참고
조사 정보
- 조사 일자: 2026-10-19 09:27 KST
- 데이터 출처: HuggingFace Models (downloads/likes 실시간 API), LiveCodeBench
- 다음 업데이트 예정: 2026-10-26
Purpose
- Goal: "현재 실제로 쓰이는" 오픈소스 모델 동향을 제공
- Scope: HuggingFace 다운로드/좋아요 기반 인기 모델, LiveCodeBench 코딩 Top 10, 로컬 추론 최적화 참고
- Non-goals: 상용 API 비교, 자체 벤치마크 수행, 중단된 리더보드(Open LLM LB v1) 사용
Popular Open Source Models (HuggingFace Downloads/likes 기준)
HuggingFace 전체 text-generation 파이프라인 모델 중 월간 다운로드 수 기준 Top 10 (tiny/testing·경량 엣지 모델 제외, 7B+ 제품군 기준). 다운로드 수는 HuggingFace API 실시간 값(최근 창 롤링, 주간 변동 가능).
| Rank | Model | Params (B) | Monthly Downloads | Likes | GGUF | Notes |
|---|---|---|---|---|---|---|
| 1 | Qwen3-8B | 8.2 | 9,122,623 | 2,123 | Y | Qwen3 경량 표준, 1-GPU 충분 |
| 2 | Qwen3-14B | 14.8 | 8,231,625 | 510 | Y | 14B급, 1-2 GPU |
| 3 | Qwen2.5-7B-Instruct | 7.6 | 6,865,647 | 2,445 | Y | 가장 폭넓게 배포된 7B |
| 4 | gpt-oss-20b | 20.9 (MoE, active ~2.3) | 5,894,972 | 5,195 | Y | OpenAI 오픈웨이트 MoE — active ~2.3B, 1-GPU 경량 |
| 5 | Llama-3.1-8B-Instruct | 8.0 | 5,555,299 | 8,499 | Y | Meta 공식, likes 최고 |
| 6 | DeepSeek-V3.2 | 685 (MoE, active ~37) | 5,232,980 | 1,582 | Y | DeepSeek 플래그십 MoE, 다중 GPU/데이터센터 |
| 7 | Ornith-1.5-9B (GGUF) | 9 | 4,947,211 | 558 | Y | GGUF 즉시 구동, 로컬 추론 최적화 |
| 8 | dolphin-2.9.1-yi-1.5-34b | 34.4 | 4,696,107 | 82 | Y | Yi-1.5 기반 34B fine-tune, 2-GPU 권장 |
| 9 | Qwen3.6-35B-A3B (NVFP4) | 35 (MoE, active 3B) | 4,492,157 | 661 | NVFP4 | NVIDIA NVFP4 MoE — active 3B, 1-GPU |
| 10 | DeepSeek-V4-Flash-0731 | 304 (MoE, active ~7.6) | 4,244,997 | 4,085 | Y | DeepSeek 신규 플래그십 경량 MoE — active ~7.6B, 1-2 GPU, 이번 신규 진입 |
인기 모델 분석
- Qwen 계열 강세: Top 10 중 4개 (Qwen3-8B, Qwen3-14B, Qwen2.5-7B-Instruct, Qwen3.6-35B-A3B)
- MoE 모델 대세: gpt-oss-20b, Qwen3.6-35B-A3B, DeepSeek-V3.2, DeepSeek-V4-Flash — active 파라미터가 적어 1-2 GPU 구동 가능
- OpenAI gpt-oss-20b: 오픈웨이트 MoE, likes 5,195 — OpenAI가 오픈 모델로 본격 진입
- DeepSeek-V4-Flash-0731 신규 진입(10위): DeepSeek 신규 플래그십 경량 MoE(총 ~304B, active ~7.6B), likes 4,085로 높은 관심 — 1-2 GPU 구동 가능
- Qwen3-14B 2위 / DeepSeek-V3.2 6위 상승: 월간 다운로드 롤링 창 변동에 따른 순위 재배치
- Ternary-Bonsai-2-27B 이탈: 직전(2026-10-12) 10위였으나 이번 다운로드 기준 11위권 밖으로 하락
Coding: LiveCodeBench Pass@1
LiveCodeBench Code Generation 기준 Top 10 (평가 윈도우 2024-08 ~ 2025-05, 오염된 모델 제외). 상용·오픈소스 통합 랭킹.
| Rank | Model | Pass@1 | Easy | Medium | Hard | Type |
|---|---|---|---|---|---|---|
| 1 | O4-Mini (High) | 80.2 | 99.1 | 89.4 | 63.5 | Commercial |
| 2 | O3 (High) | 75.8 | 99.1 | 84.4 | 57.1 | Commercial |
| 3 | O4-Mini (Medium) | 74.2 | 98.2 | 86.5 | 52.7 | Commercial |
| 4 | Gemini-2.5-Pro-06-05 | 73.6 | 99.1 | 87.2 | 50.2 | Commercial |
| 5 | DeepSeek-R1-0528 | 73.1 | 98.7 | 85.2 | 50.7 | Open Source |
| 6 | Gemini-2.5-Pro-05-06 | 71.8 | 98.2 | 82.3 | 50.2 | Commercial |
| 7 | EXAONE-4.0-32B | 70.0 | 98.4 | 82.3 | 46.2 | Open Source |
| 8 | OpenReasoning-Nemotron-32B | 69.8 | 98.3 | 81.4 | 46.3 | Open Source |
| 9 | O3-Mini-2025-01-31 (High) | 67.4 | 99.1 | 84.4 | 38.4 | Commercial |
| 10 | OpenCodeReasoning-Nemotron-1.1-32B | 66.8 | 97.9 | 79.6 | 41.1 | Open Source |
코딩 모델 분석
- 상용 모델 상위: OpenAI O4-Mini/O3-Mini·O3, Google Gemini-2.5-Pro가 1~4위·6위·9위
- 오픈소스 4개: DeepSeek-R1-0528(5위), EXAONE-4.0-32B(7위), OpenReasoning-Nemotron-32B(8위), OpenCodeReasoning-Nemotron-1.1-32B(10위)
- DeepSeek·NVIDIA·LG AI: 오픈소스 코딩 모델은 DeepSeek(5위)이 가장 앞, NVIDIA Nemotron 2종 + LG EXAONE이 그 뒤를 이음
- 라이브보드는 상용·오픈소스 통합 랭킹이며, 이번 주 데이터(윈도우 2024-08~2025-05)는 직전 주와 동일(새 dataset 미반영)
로컬 추론 최적화 참고
- llama.cpp — 오픈소스 로컬 추론 엔진(모델별/하드웨어별 최적화 설정 참고)
- Qwen3.8-27B Q4_0 + MTP draft-2: 1-GPU(24GB) ~38 tok/s
- MoE 모델(A3B 계열): 1-GPU 구동 가능, active 파라미터만 메모리 차지
- unsloth GGUF — 고품질 GGUF 양자화 저장소
Limitations
- 인기 모델 표: HuggingFace API 실시간 다운로드(최근 창 롤링) 기준 — 주간 변동 가능
- LiveCodeBench: 평가 윈도우 2024-08~2025-05로 고정(새 dataset 미반영), 상용·오픈소스 통합 랭킹
- Open LLM Leaderboard v1: 중단 → 이 페이지에서 미사용
- "active" 파라미터: MoE 토큰당 활성 파라미터 추정치 (HF API는 총 파라미터만 제공)
- Edge Devices: OLL v1(동결) 카테고리에서 제거 — 경량 모델은 인기 표의 7B+ 경량 항목으로 대체