BayanSimplify-ONNX / model3 /bayan_model.json
marwanelamami's picture
model3 bundle (int8 ONNX)
b063c5b verified
Raw History Blame Contribute Delete
3.59 kB
{
"id": "model3",
"hf_repo": "Congi-libya/bayan-arat5-v1",
"prefix": "بسط: ",
"decoder_start_token_id": 0,
"eos_token_id": 1,
"pad_token_id": 0,
"num_layers": 12,
"num_heads": 12,
"head_dim": 64,
"max_input_tokens": 256,
"max_output_tokens": 256,
"no_repeat_ngram_size": 3,
"encoder_inputs": [
"input_ids",
"attention_mask"
],
"decoder_inputs": [
"encoder_attention_mask",
"input_ids",
"encoder_hidden_states",
"past_key_values.0.decoder.key",
"past_key_values.0.decoder.value",
"past_key_values.0.encoder.key",
"past_key_values.0.encoder.value",
"past_key_values.1.decoder.key",
"past_key_values.1.decoder.value",
"past_key_values.1.encoder.key",
"past_key_values.1.encoder.value",
"past_key_values.2.decoder.key",
"past_key_values.2.decoder.value",
"past_key_values.2.encoder.key",
"past_key_values.2.encoder.value",
"past_key_values.3.decoder.key",
"past_key_values.3.decoder.value",
"past_key_values.3.encoder.key",
"past_key_values.3.encoder.value",
"past_key_values.4.decoder.key",
"past_key_values.4.decoder.value",
"past_key_values.4.encoder.key",
"past_key_values.4.encoder.value",
"past_key_values.5.decoder.key",
"past_key_values.5.decoder.value",
"past_key_values.5.encoder.key",
"past_key_values.5.encoder.value",
"past_key_values.6.decoder.key",
"past_key_values.6.decoder.value",
"past_key_values.6.encoder.key",
"past_key_values.6.encoder.value",
"past_key_values.7.decoder.key",
"past_key_values.7.decoder.value",
"past_key_values.7.encoder.key",
"past_key_values.7.encoder.value",
"past_key_values.8.decoder.key",
"past_key_values.8.decoder.value",
"past_key_values.8.encoder.key",
"past_key_values.8.encoder.value",
"past_key_values.9.decoder.key",
"past_key_values.9.decoder.value",
"past_key_values.9.encoder.key",
"past_key_values.9.encoder.value",
"past_key_values.10.decoder.key",
"past_key_values.10.decoder.value",
"past_key_values.10.encoder.key",
"past_key_values.10.encoder.value",
"past_key_values.11.decoder.key",
"past_key_values.11.decoder.value",
"past_key_values.11.encoder.key",
"past_key_values.11.encoder.value",
"use_cache_branch"
],
"decoder_outputs": [
"logits",
"present.0.decoder.key",
"present.0.decoder.value",
"present.0.encoder.key",
"present.0.encoder.value",
"present.1.decoder.key",
"present.1.decoder.value",
"present.1.encoder.key",
"present.1.encoder.value",
"present.2.decoder.key",
"present.2.decoder.value",
"present.2.encoder.key",
"present.2.encoder.value",
"present.3.decoder.key",
"present.3.decoder.value",
"present.3.encoder.key",
"present.3.encoder.value",
"present.4.decoder.key",
"present.4.decoder.value",
"present.4.encoder.key",
"present.4.encoder.value",
"present.5.decoder.key",
"present.5.decoder.value",
"present.5.encoder.key",
"present.5.encoder.value",
"present.6.decoder.key",
"present.6.decoder.value",
"present.6.encoder.key",
"present.6.encoder.value",
"present.7.decoder.key",
"present.7.decoder.value",
"present.7.encoder.key",
"present.7.encoder.value",
"present.8.decoder.key",
"present.8.decoder.value",
"present.8.encoder.key",
"present.8.encoder.value",
"present.9.decoder.key",
"present.9.decoder.value",
"present.9.encoder.key",
"present.9.encoder.value",
"present.10.decoder.key",
"present.10.decoder.value",
"present.10.encoder.key",
"present.10.encoder.value",
"present.11.decoder.key",
"present.11.decoder.value",
"present.11.encoder.key",
"present.11.encoder.value"
]
}