File size: 3,308 Bytes
69df0cf dbd598d 8f695c1 69df0cf dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 dbd598d 8f695c1 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 | ---
license: apache-2.0
tags:
- benchmark
- sampling
- inference
- code
- math
---
# Sampling Config Benchmark: code / fix bug / toán
Tìm **cấu hình sampling tốt nhất** (`temperature`, `top_p`, `top_k`, `repetition_penalty`) cho một LLM cho các việc hằng ngày: viết code, sửa bug, giải toán (mức dễ đến trung bình). Không cần chat thử bằng tay.
Ví dụ output:
```
temp = 1.0
top p = 0.95
top k = 40
rep p (repetition_penalty) = 1.05
```
## Bộ đề
| Loại | Task | Cách chấm |
|:--|:--|:--|
| code | HumanEval, MBPP | chạy unit test |
| fix | HumanEvalFix (Python) | model sửa code lỗi, chạy unit test |
| math | GSM8K, MATH-500 (chỉ level 1-3) | so đáp án trong `\boxed{}` |
## Cách hoạt động
1. Lấy mẫu ngẫu nhiên (seed cố định) `--n-per-task` câu mỗi task.
2. Chạy từng cấu hình sampling (grid hoặc random), mỗi câu sample `--n-samples` lần để giảm nhiễu.
3. Đo accuracy từng loại, tỉ lệ lặp 4-gram (`Rep4`), tỉ lệ bị cắt vì hết token (`Trunc`).
4. Bootstrap phân tầng theo loại (2000 lần) để ra **khoảng tin cậy 95%**, **P(best)**, và đánh dấu cấu hình **không khác biệt có ý nghĩa** với cấu hình tốt nhất (`Tied`).
5. Xuất cấu hình tốt nhất **tổng hợp** và **riêng cho code / fix / math** (có thể khác nhau).
## Cài đặt
```bash
pip install -r requirements.txt
```
> ⚠️ Script **chạy code do model sinh ra** (có timeout và giới hạn RAM, nhưng không phải sandbox thật). Hãy chạy trong Docker hoặc VM.
## Chạy
```bash
vllm serve Qwen/Qwen3-8B --port 8000
# Nhanh: random 40 cấu hình
python benchmark.py --model Qwen/Qwen3-8B --mode random --n-random 40
# Grid đầy đủ (~200 cấu hình)
python benchmark.py --model Qwen/Qwen3-8B
# Chính xác hơn
python benchmark.py --model Qwen/Qwen3-8B --n-per-task 150 --n-samples 8
# Ưu tiên math gấp đôi
python benchmark.py --model Qwen/Qwen3-8B --weights "code=1,fix=1,math=2"
# Chỉ chạy vài task
python benchmark.py --model Qwen/Qwen3-8B --tasks humaneval humanevalfix gsm8k
```
Có thể ngắt giữa chừng rồi chạy lại: các cấu hình đã xong được lưu trong `results/raw_results.jsonl` và được bỏ qua (chỉ khi tham số giống hệt).
Phân tích lại: thêm `--analyze-only`.
## Output
- `results/results.md`: cấu hình tốt nhất, bảng theo loại, xếp hạng, ảnh hưởng từng tham số
- `results/best_config.json`: kết quả cho máy đọc
- `results/raw_results.jsonl`: điểm từng câu của từng cấu hình
## Lưu ý
- `temperature = 0` là greedy nên `top_p`/`top_k` được gộp. `top_k = 0` là tắt.
- Model reasoning (có `<think>`): tăng `--max-tokens` (4096+); phần `<think>` được bỏ khi chấm.
- Nếu nhiều cấu hình "hòa", chọn cái có `Rep4` và `Trunc` thấp.
- Cần server hỗ trợ `top_k` và `repetition_penalty` qua `extra_body` (vLLM, SGLang đều có).
- Kết quả phụ thuộc model, prompt, và mẫu câu hỏi; hãy ghi rõ khi đăng.
## Mẫu bảng kết quả
| Model | Loại | temp | top_p | top_k | rep_p | Acc | 95% CI |
|---|:--|--:|--:|--:|--:|--:|:--|
| ... | | | | | | | |
|