{ "id": "model3", "hf_repo": "Congi-libya/bayan-arat5-v1", "prefix": "بسط: ", "decoder_start_token_id": 0, "eos_token_id": 1, "pad_token_id": 0, "num_layers": 12, "num_heads": 12, "head_dim": 64, "max_input_tokens": 256, "max_output_tokens": 256, "no_repeat_ngram_size": 3, "encoder_inputs": [ "input_ids", "attention_mask" ], "decoder_inputs": [ "encoder_attention_mask", "input_ids", "encoder_hidden_states", "past_key_values.0.decoder.key", "past_key_values.0.decoder.value", "past_key_values.0.encoder.key", "past_key_values.0.encoder.value", "past_key_values.1.decoder.key", "past_key_values.1.decoder.value", "past_key_values.1.encoder.key", "past_key_values.1.encoder.value", "past_key_values.2.decoder.key", "past_key_values.2.decoder.value", "past_key_values.2.encoder.key", "past_key_values.2.encoder.value", "past_key_values.3.decoder.key", "past_key_values.3.decoder.value", "past_key_values.3.encoder.key", "past_key_values.3.encoder.value", "past_key_values.4.decoder.key", "past_key_values.4.decoder.value", "past_key_values.4.encoder.key", "past_key_values.4.encoder.value", "past_key_values.5.decoder.key", "past_key_values.5.decoder.value", "past_key_values.5.encoder.key", "past_key_values.5.encoder.value", "past_key_values.6.decoder.key", "past_key_values.6.decoder.value", "past_key_values.6.encoder.key", "past_key_values.6.encoder.value", "past_key_values.7.decoder.key", "past_key_values.7.decoder.value", "past_key_values.7.encoder.key", "past_key_values.7.encoder.value", "past_key_values.8.decoder.key", "past_key_values.8.decoder.value", "past_key_values.8.encoder.key", "past_key_values.8.encoder.value", "past_key_values.9.decoder.key", "past_key_values.9.decoder.value", "past_key_values.9.encoder.key", "past_key_values.9.encoder.value", "past_key_values.10.decoder.key", "past_key_values.10.decoder.value", "past_key_values.10.encoder.key", "past_key_values.10.encoder.value", "past_key_values.11.decoder.key", "past_key_values.11.decoder.value", "past_key_values.11.encoder.key", "past_key_values.11.encoder.value", "use_cache_branch" ], "decoder_outputs": [ "logits", "present.0.decoder.key", "present.0.decoder.value", "present.0.encoder.key", "present.0.encoder.value", "present.1.decoder.key", "present.1.decoder.value", "present.1.encoder.key", "present.1.encoder.value", "present.2.decoder.key", "present.2.decoder.value", "present.2.encoder.key", "present.2.encoder.value", "present.3.decoder.key", "present.3.decoder.value", "present.3.encoder.key", "present.3.encoder.value", "present.4.decoder.key", "present.4.decoder.value", "present.4.encoder.key", "present.4.encoder.value", "present.5.decoder.key", "present.5.decoder.value", "present.5.encoder.key", "present.5.encoder.value", "present.6.decoder.key", "present.6.decoder.value", "present.6.encoder.key", "present.6.encoder.value", "present.7.decoder.key", "present.7.decoder.value", "present.7.encoder.key", "present.7.encoder.value", "present.8.decoder.key", "present.8.decoder.value", "present.8.encoder.key", "present.8.encoder.value", "present.9.decoder.key", "present.9.decoder.value", "present.9.encoder.key", "present.9.encoder.value", "present.10.decoder.key", "present.10.decoder.value", "present.10.encoder.key", "present.10.encoder.value", "present.11.decoder.key", "present.11.decoder.value", "present.11.encoder.key", "present.11.encoder.value" ] }