File size: 159 Bytes
2dd2573 | 1 2 3 4 5 6 7 | CUDA_VISIBLE_DEVICES=0 \
swift export \
--model Qwen/Qwen3-30B-A3B \
--quant_method bnb \
--quant_bits 4 \
--output_dir Qwen3-30B-A3B-BNB-Int4
|
2dd2573 | 1 2 3 4 5 6 7 | CUDA_VISIBLE_DEVICES=0 \
swift export \
--model Qwen/Qwen3-30B-A3B \
--quant_method bnb \
--quant_bits 4 \
--output_dir Qwen3-30B-A3B-BNB-Int4
|