--- license: apache-2.0 tags: - benchmark - sampling - inference - code - math --- # Sampling Config Benchmark: code / fix bug / toán Tìm **cấu hình sampling tốt nhất** (`temperature`, `top_p`, `top_k`, `repetition_penalty`) cho một LLM cho các việc hằng ngày: viết code, sửa bug, giải toán (mức dễ đến trung bình). Không cần chat thử bằng tay. Ví dụ output: ``` temp = 1.0 top p = 0.95 top k = 40 rep p (repetition_penalty) = 1.05 ``` ## Bộ đề | Loại | Task | Cách chấm | |:--|:--|:--| | code | HumanEval, MBPP | chạy unit test | | fix | HumanEvalFix (Python) | model sửa code lỗi, chạy unit test | | math | GSM8K, MATH-500 (chỉ level 1-3) | so đáp án trong `\boxed{}` | ## Cách hoạt động 1. Lấy mẫu ngẫu nhiên (seed cố định) `--n-per-task` câu mỗi task. 2. Chạy từng cấu hình sampling (grid hoặc random), mỗi câu sample `--n-samples` lần để giảm nhiễu. 3. Đo accuracy từng loại, tỉ lệ lặp 4-gram (`Rep4`), tỉ lệ bị cắt vì hết token (`Trunc`). 4. Bootstrap phân tầng theo loại (2000 lần) để ra **khoảng tin cậy 95%**, **P(best)**, và đánh dấu cấu hình **không khác biệt có ý nghĩa** với cấu hình tốt nhất (`Tied`). 5. Xuất cấu hình tốt nhất **tổng hợp** và **riêng cho code / fix / math** (có thể khác nhau). ## Cài đặt ```bash pip install -r requirements.txt ``` > ⚠️ Script **chạy code do model sinh ra** (có timeout và giới hạn RAM, nhưng không phải sandbox thật). Hãy chạy trong Docker hoặc VM. ## Chạy ```bash vllm serve Qwen/Qwen3-8B --port 8000 # Nhanh: random 40 cấu hình python benchmark.py --model Qwen/Qwen3-8B --mode random --n-random 40 # Grid đầy đủ (~200 cấu hình) python benchmark.py --model Qwen/Qwen3-8B # Chính xác hơn python benchmark.py --model Qwen/Qwen3-8B --n-per-task 150 --n-samples 8 # Ưu tiên math gấp đôi python benchmark.py --model Qwen/Qwen3-8B --weights "code=1,fix=1,math=2" # Chỉ chạy vài task python benchmark.py --model Qwen/Qwen3-8B --tasks humaneval humanevalfix gsm8k ``` Có thể ngắt giữa chừng rồi chạy lại: các cấu hình đã xong được lưu trong `results/raw_results.jsonl` và được bỏ qua (chỉ khi tham số giống hệt). Phân tích lại: thêm `--analyze-only`. ## Output - `results/results.md`: cấu hình tốt nhất, bảng theo loại, xếp hạng, ảnh hưởng từng tham số - `results/best_config.json`: kết quả cho máy đọc - `results/raw_results.jsonl`: điểm từng câu của từng cấu hình ## Lưu ý - `temperature = 0` là greedy nên `top_p`/`top_k` được gộp. `top_k = 0` là tắt. - Model reasoning (có ``): tăng `--max-tokens` (4096+); phần `` được bỏ khi chấm. - Nếu nhiều cấu hình "hòa", chọn cái có `Rep4` và `Trunc` thấp. - Cần server hỗ trợ `top_k` và `repetition_penalty` qua `extra_body` (vLLM, SGLang đều có). - Kết quả phụ thuộc model, prompt, và mẫu câu hỏi; hãy ghi rõ khi đăng. ## Mẫu bảng kết quả | Model | Loại | temp | top_p | top_k | rep_p | Acc | 95% CI | |---|:--|--:|--:|--:|--:|--:|:--| | ... | | | | | | | |