# c7 - Qwen2.5-Coder-7B-Instruct

[← 모델 목록](README.md)

## 기본 정보

| 항목 | 내용 |
|---|---|
| 풀네임 | Qwen2.5-Coder-7B-Instruct |
| 만든 곳 | Qwen (옛 세대) |
| 공개일 | 원본 2024-09-17 · 로컬 GGUF 변환 2026-08-03 |
| 라이선스 | Apache-2.0 |

## 원본 · GGUF 출처

- 원본 가중치: https://huggingface.co/Qwen/Qwen2.5-Coder-7B-Instruct
- GGUF: 내려받는 파일이 아니라 원본 가중치를 직접 GGUF 로 변환한 파일이다.

## 구조

dense. 전체 7B 가 모두 활성. 생각 기능 없음. 문맥 32K 가 한계.

## 양자화 · 파일

| 항목 | 내용 |
|---|---|
| 양자화 | Q8_0 |
| 파일 | `qwen2.5-coder-7b-q8_0.gguf` · 8.1GB (8,098,525,760 B) |
| sha256(앞 16자) | `c4b171ef14a7a498` (로컬 변환본) |

## 서버 설정 (router preset)

공통값: `n-gpu-layers = 999`(전부 GPU) · `flash-attn = on` · `jinja = true` · `c = 65536`(문맥 64K) · `load-mode = none`(통째로 메모리에 올림). 모델 섹션이 같은 키를 쓰면 공통값을 덮어쓴다.

- 생각 모드: 없음
- 샘플링: 모델 기본값
- 투기적 디코딩: 없음
- 문맥: **`c = 32768`** (이 모델의 한계라 공통값 64K 를 덮어쓴다)
- mmproj: 없음

## 표준 시험 실측

2026-10-17, llama.cpp b11701, Strix Halo 서버(GPU, 한 번에 한 모델). 방법은 [README](README.md#읽는-법) 참고.

| 항목 | 내용 |
|---|---|
| 첫 응답(모델 교체 포함) | 34.1초 |
| 생성 속도 | 28.9 t/s |
| 긴 프롬프트 읽기(약 1만 토큰) | 1127 t/s |
| GTT | 9.6G |
| 초안 수락률 | - (없음) |
| 자동 채점 통과 횟수 | 2/2회 |

## 알려진 특성 · 주의점

- 비교 기준선. 작고 가벼우며 표준 시험(두 함수)은 통과했지만, 옛 세대 모델이라 큰 에이전트 과제는 시험하지 않았다.
- 문맥이 32K 라 긴 에이전트 작업에서는 문맥이 모자랄 수 있다.
- 추측 디코딩이 없는 dense 모델이라 (파일 크기 x 생성 속도)가 약 234GB/s 로, 이 서버 메모리 대역폭이 속도를 정한다는 설명과 맞는다.

## 참가한 테스트

- [01 테트리스 게임 테스트](../01_tetris_game_test/README.md#9-결과--v1) — v1: 공동 12위 / 총점 0 — 제작 실패, 파일을 만들지 못함(생성 토큰 1,007개) · [v2](../01_tetris_game_test/README.md#9-2-결과--v2): 공동 13위 / 총점 0 — 제작 실패, 또 파일을 만들지 못함(생성 토큰 1,134개) · [v3](../01_tetris_game_test/README.md#9-3-결과--v3): 공동 13위 / 총점 0 — 제작 실패, 또 파일을 만들지 못함(생성 토큰 428개)
- 테트리스 종합: v1 0 → v2 0 → v3 0, 평균 0 (종합 공동 13위) — [종합 보기](../01_tetris_game_test/README.md#10-테트리스-종합--v1--v2--v3-완결)
- [02 드래곤플라이트 게임 테스트](../02_dragonflight_game_test/README.md#9-결과--v1) — v1: 공동 12위 / 총점 0 — 제작 실패, 파일을 만들지 못함(생성 토큰 1,496개) · [v2](../02_dragonflight_game_test/README.md#9-2-결과--v2): 공동 13위 / 총점 0 — 제작 실패, 또 파일을 만들지 못함(생성 토큰 907개) · [v3](../02_dragonflight_game_test/README.md#9-3-결과--v3): 공동 13위 / 총점 0 — 제작 실패, 또 파일을 만들지 못함(생성 토큰 1,074개)
- 드래곤플라이트 종합: v1 0 → v2 0 → v3 0, 평균 0 (종합 공동 13위) — [종합 보기](../02_dragonflight_game_test/README.md#10-드래곤플라이트-종합--v1--v2--v3-완결)
- [03 디펜스 게임 테스트](../03_defense_game_test/README.md#9-결과--v1) — v1: 공동 13위 / 총점 0 — 제작 실패 — 파일을 만들지 못함(생성 토큰 1,311개) · [v2](../03_defense_game_test/README.md#9-2-결과--v2): 공동 13위 / 총점 0 — 제작 실패, 또 파일을 만들지 못함(생성 토큰 700개) · [v3](../03_defense_game_test/README.md#9-3-결과--v3): 공동 13위 / 총점 0 — 제작 실패, 또 파일을 만들지 못함(생성 토큰 170개)
- 디펜스 종합: v1 0 → v2 0 → v3 0, 평균 0 (종합 공동 13위) — [종합 보기](../03_defense_game_test/README.md#10-03-디펜스-종합--v1--v2--v3-완결)
- 대회 종합: 3개 시험 평균 0 (공동 13위) — 테트리스 0 · 드래곤플라이트 0 · 디펜스 0 — [대회 종합 보기](../README.md#대회-종합--3개-시험-평균)