| { |
| "base_model_name_or_path": "", |
| "bias": "none", |
| "fan_in_fan_out": false, |
| "inference_mode": false, |
| "lora_alpha": 32, |
| "lora_dropout": 0.0, |
| "r": 32, |
| "target_modules": [ |
| "b_proj", |
| "down_proj", |
| "f_a_proj", |
| "f_b_proj", |
| "g_proj", |
| "gate_proj", |
| "k_proj", |
| "kv_a_proj_with_mqa", |
| "kv_b_proj", |
| "o_proj", |
| "q_a_proj", |
| "q_b_proj", |
| "q_proj", |
| "up_proj", |
| "v_proj" |
| ], |
| "task_type": "CAUSAL_LM", |
| "peft_type": "LORA", |
| "use_dora": false, |
| "fw_lora_layout": "hf_peft_v1", |
| "fw_moe_lora_a_shared": false, |
| "fw_moe_lora_b_shared": false, |
| "fw_moe_lora_aliases": {}, |
| "fw_moe_lora_shared_factors": [] |
| } |
