Axolotl

Axolotl هو إطار عمل للضبط الدقيق والتدريب اللاحق لنماذج اللغة الكبيرة. يدعم الضبط القائم على المُكيِّفات، والتدريب الموزّع ND-parallel، وGRPO، وQAT. من خلال TRL، يتولى Axolotl أيضًا مهام التعلم التفضيلي، والتعلم المعزز، ونمذجة المكافآت.

حدد تشغيل التدريب الخاص بك في ملف إعدادات بصيغة YAML.

base_model: NousResearch/Nous-Hermes-llama-1b-v1
model_type: AutoModelForCausalLM
tokenizer_type: AutoTokenizer

datasets:
  - path: tatsu-lab/alpaca
    type: alpaca

output_dir: ./outputs
sequence_len: 512
micro_batch_size: 1
gradient_accumulation_steps: 1
num_epochs: 1
learning_rate: 2.0e-5

ابدأ التدريب باستخدام أمر train.

axolotl train my_config.yml

تكامل Transformers

يغلّف ModelLoader في Axolotl تدفق التحميل الخاص بـ Transformers.

• يُبنى تكوين النموذج من AutoConfig.from_pretrained(). يحدد إعداد التحميل المسبق device map وquantization config وattention backend.

• يختار ModelLoader تلقائيًا فئة AutoModel المناسبة (AutoModelForCausalLM، AutoModelForImageTextToText، AutoModelForSequenceClassification) أو فئة محددة لنموذج معين من خرائط الوسائط المتعددة. يتم تحميل الأوزان باستخدام from_pretrained الخاص بالمحمّل المختار. عند تعيين reinit_weights، يستخدم Axolotl from_config للمبادرة العشوائية.

• يستخدم Axolotl مكتبات Transformers وPEFT وbitsandbytes لتطبيق المُكيّفات (adapters) بعد تهيئة النموذج عند تفعيل تقنيات تعتمد على PEFT مثل LoRA وQLoRA. كما يطبّق مدير التصحيحات (patch manager) تحسينات إضافية قبل تحميل النموذج وبعده.

• يمتد AxolotlTrainer من Trainer، مضيفًا إضافات Axolotl مع استخدام حلقة التدريب وواجهات برمجة التطبيقات الخاصة بـ Trainer.

الموارد

• توثيقات Axolotl