noodcon's picture
Upload 3 files
8f695c1 verified
|
Raw History Blame Contribute Delete
3.31 kB
---
license: apache-2.0
tags:
- benchmark
- sampling
- inference
- code
- math
---
# Sampling Config Benchmark: code / fix bug / toán
Tìm **cấu hình sampling tốt nhất** (`temperature`, `top_p`, `top_k`, `repetition_penalty`) cho một LLM cho các việc hằng ngày: viết code, sửa bug, giải toán (mức dễ đến trung bình). Không cần chat thử bằng tay.
Ví dụ output:
```
temp = 1.0
top p = 0.95
top k = 40
rep p (repetition_penalty) = 1.05
```
## Bộ đề
| Loại | Task | Cách chấm |
|:--|:--|:--|
| code | HumanEval, MBPP | chạy unit test |
| fix | HumanEvalFix (Python) | model sửa code lỗi, chạy unit test |
| math | GSM8K, MATH-500 (chỉ level 1-3) | so đáp án trong `\boxed{}` |
## Cách hoạt động
1. Lấy mẫu ngẫu nhiên (seed cố định) `--n-per-task` câu mỗi task.
2. Chạy từng cấu hình sampling (grid hoặc random), mỗi câu sample `--n-samples` lần để giảm nhiễu.
3. Đo accuracy từng loại, tỉ lệ lặp 4-gram (`Rep4`), tỉ lệ bị cắt vì hết token (`Trunc`).
4. Bootstrap phân tầng theo loại (2000 lần) để ra **khoảng tin cậy 95%**, **P(best)**, và đánh dấu cấu hình **không khác biệt có ý nghĩa** với cấu hình tốt nhất (`Tied`).
5. Xuất cấu hình tốt nhất **tổng hợp** và **riêng cho code / fix / math** (có thể khác nhau).
## Cài đặt
```bash
pip install -r requirements.txt
```
> ⚠️ Script **chạy code do model sinh ra** (có timeout và giới hạn RAM, nhưng không phải sandbox thật). Hãy chạy trong Docker hoặc VM.
## Chạy
```bash
vllm serve Qwen/Qwen3-8B --port 8000
# Nhanh: random 40 cấu hình
python benchmark.py --model Qwen/Qwen3-8B --mode random --n-random 40
# Grid đầy đủ (~200 cấu hình)
python benchmark.py --model Qwen/Qwen3-8B
# Chính xác hơn
python benchmark.py --model Qwen/Qwen3-8B --n-per-task 150 --n-samples 8
# Ưu tiên math gấp đôi
python benchmark.py --model Qwen/Qwen3-8B --weights "code=1,fix=1,math=2"
# Chỉ chạy vài task
python benchmark.py --model Qwen/Qwen3-8B --tasks humaneval humanevalfix gsm8k
```
Có thể ngắt giữa chừng rồi chạy lại: các cấu hình đã xong được lưu trong `results/raw_results.jsonl` và được bỏ qua (chỉ khi tham số giống hệt).
Phân tích lại: thêm `--analyze-only`.
## Output
- `results/results.md`: cấu hình tốt nhất, bảng theo loại, xếp hạng, ảnh hưởng từng tham số
- `results/best_config.json`: kết quả cho máy đọc
- `results/raw_results.jsonl`: điểm từng câu của từng cấu hình
## Lưu ý
- `temperature = 0` là greedy nên `top_p`/`top_k` được gộp. `top_k = 0` là tắt.
- Model reasoning (có `<think>`): tăng `--max-tokens` (4096+); phần `<think>` được bỏ khi chấm.
- Nếu nhiều cấu hình "hòa", chọn cái có `Rep4` và `Trunc` thấp.
- Cần server hỗ trợ `top_k` và `repetition_penalty` qua `extra_body` (vLLM, SGLang đều có).
- Kết quả phụ thuộc model, prompt, và mẫu câu hỏi; hãy ghi rõ khi đăng.
## Mẫu bảng kết quả
| Model | Loại | temp | top_p | top_k | rep_p | Acc | 95% CI |
|---|:--|--:|--:|--:|--:|--:|:--|
| ... | | | | | | | |