makefile

train:
	python3 ./src/run_mlm_flax.py \
		--output_dir="." \
		--model_type="roberta" \
		--config_name="." \
		--tokenizer_name="." \
		--max_seq_length="128" \
		--weight_decay="0.01" \
		--per_device_train_batch_size="128" \
		--per_device_eval_batch_size="128" \
		--learning_rate="3e-4" \
		--warmup_steps="1000" \
		--overwrite_output_dir \
		--pad_to_max_length \
		--num_train_epochs="18" \
		--adam_beta1="0.9" \
		--adam_beta2="0.98" \
		--push_to_hub