|
Download README.md from noodcon/Sampling-Config-Benchmark: direct link, hf CLI and curl.
- Browser
- Download file 3.31 kB
-
https://huggingface.co/datasets/noodcon/Sampling-Config-Benchmark/resolve/main/README.md
- Command line
-
hf download hf://datasets/noodcon/Sampling-Config-Benchmark/README.md
-
curl -L -o README.md https://huggingface.co/datasets/noodcon/Sampling-Config-Benchmark/resolve/main/README.md
3.31 kB
| license: apache-2.0 | |
| tags: | |
| - benchmark | |
| - sampling | |
| - inference | |
| - code | |
| - math | |
| # Sampling Config Benchmark: code / fix bug / toán | |
| Tìm **cấu hình sampling tốt nhất** (`temperature`, `top_p`, `top_k`, `repetition_penalty`) cho một LLM cho các việc hằng ngày: viết code, sửa bug, giải toán (mức dễ đến trung bình). Không cần chat thử bằng tay. | |
| Ví dụ output: | |
| ``` | |
| temp = 1.0 | |
| top p = 0.95 | |
| top k = 40 | |
| rep p (repetition_penalty) = 1.05 | |
| ``` | |
| ## Bộ đề | |
| | Loại | Task | Cách chấm | | |
| |:--|:--|:--| | |
| | code | HumanEval, MBPP | chạy unit test | | |
| | fix | HumanEvalFix (Python) | model sửa code lỗi, chạy unit test | | |
| | math | GSM8K, MATH-500 (chỉ level 1-3) | so đáp án trong `\boxed{}` | | |
| ## Cách hoạt động | |
| 1. Lấy mẫu ngẫu nhiên (seed cố định) `--n-per-task` câu mỗi task. | |
| 2. Chạy từng cấu hình sampling (grid hoặc random), mỗi câu sample `--n-samples` lần để giảm nhiễu. | |
| 3. Đo accuracy từng loại, tỉ lệ lặp 4-gram (`Rep4`), tỉ lệ bị cắt vì hết token (`Trunc`). | |
| 4. Bootstrap phân tầng theo loại (2000 lần) để ra **khoảng tin cậy 95%**, **P(best)**, và đánh dấu cấu hình **không khác biệt có ý nghĩa** với cấu hình tốt nhất (`Tied`). | |
| 5. Xuất cấu hình tốt nhất **tổng hợp** và **riêng cho code / fix / math** (có thể khác nhau). | |
| ## Cài đặt | |
| ```bash | |
| pip install -r requirements.txt | |
| ``` | |
| > ⚠️ Script **chạy code do model sinh ra** (có timeout và giới hạn RAM, nhưng không phải sandbox thật). Hãy chạy trong Docker hoặc VM. | |
| ## Chạy | |
| ```bash | |
| vllm serve Qwen/Qwen3-8B --port 8000 | |
| # Nhanh: random 40 cấu hình | |
| python benchmark.py --model Qwen/Qwen3-8B --mode random --n-random 40 | |
| # Grid đầy đủ (~200 cấu hình) | |
| python benchmark.py --model Qwen/Qwen3-8B | |
| # Chính xác hơn | |
| python benchmark.py --model Qwen/Qwen3-8B --n-per-task 150 --n-samples 8 | |
| # Ưu tiên math gấp đôi | |
| python benchmark.py --model Qwen/Qwen3-8B --weights "code=1,fix=1,math=2" | |
| # Chỉ chạy vài task | |
| python benchmark.py --model Qwen/Qwen3-8B --tasks humaneval humanevalfix gsm8k | |
| ``` | |
| Có thể ngắt giữa chừng rồi chạy lại: các cấu hình đã xong được lưu trong `results/raw_results.jsonl` và được bỏ qua (chỉ khi tham số giống hệt). | |
| Phân tích lại: thêm `--analyze-only`. | |
| ## Output | |
| - `results/results.md`: cấu hình tốt nhất, bảng theo loại, xếp hạng, ảnh hưởng từng tham số | |
| - `results/best_config.json`: kết quả cho máy đọc | |
| - `results/raw_results.jsonl`: điểm từng câu của từng cấu hình | |
| ## Lưu ý | |
| - `temperature = 0` là greedy nên `top_p`/`top_k` được gộp. `top_k = 0` là tắt. | |
| - Model reasoning (có `<think>`): tăng `--max-tokens` (4096+); phần `<think>` được bỏ khi chấm. | |
| - Nếu nhiều cấu hình "hòa", chọn cái có `Rep4` và `Trunc` thấp. | |
| - Cần server hỗ trợ `top_k` và `repetition_penalty` qua `extra_body` (vLLM, SGLang đều có). | |
| - Kết quả phụ thuộc model, prompt, và mẫu câu hỏi; hãy ghi rõ khi đăng. | |
| ## Mẫu bảng kết quả | |
| | Model | Loại | temp | top_p | top_k | rep_p | Acc | 95% CI | | |
| |---|:--|--:|--:|--:|--:|--:|:--| | |
| | ... | | | | | | | | | |