opsiom-models / summarizer_config.json
JuloEco's picture
Upload summarizer_config.json with huggingface_hub
15e1259 verified
Raw History Blame Contribute Delete
1.1 kB
{
"task": "summarization-fr",
"base": "JuloEco/opsiom-fr-checkpoints/best_model.pt",
"context_len": 1024,
"base_context_len": 512,
"base_rope_theta": 10000.0,
"user_tag": "<|Utilisateur|>",
"assistant_tag": "<|Assistant|>",
"eot": "<|endoftext|>",
"instructions": {
"texte": [
"Résume le texte suivant en quelques phrases.",
"Fais un résumé du texte ci-dessous.",
"Résume cet article en deux ou trois phrases."
],
"email": [
"Résume l'e-mail suivant en une ou deux phrases.",
"Fais un résumé de ce courriel.",
"Résume ce mail en quelques mots."
],
"etapes": [
"Résume les étapes du texte suivant.",
"Résume ce tutoriel en quelques étapes courtes."
]
},
"prompt_template": "{USER}\\n{instruction}\\n\\n{document}\\n{ASSISTANT}\\n",
"n_train": 30000,
"args": {
"vocab_size": 16000,
"dim": 1024,
"n_layers": 16,
"n_heads": 16,
"n_kv_heads": 4,
"max_seq_len": 1024,
"dropout": 0.1,
"rope_theta": 20452.228712025368,
"norm_eps": 1e-06,
"device": "cuda"
}
}