atom-ai / docs /artifacts /root_cause /gru_f100.json
thefinalboss's picture
ATOM (atom-ai): code snapshot (100fae0 + batched-train), README with measured numbers, curated checkpoints (part 3)
969c687 verified
Raw History Blame Contribute Delete
1.47 kB
{
"name": "f100",
"params": 2611456,
"train_bytes": 959493,
"frac": 1.0,
"extra": [],
"steps": 962,
"epochs": 4.11,
"log": [
{
"step": 200,
"min": 1.1,
"train": 0.2054,
"bytes_seen": 819200,
"val": 0.2032
},
{
"step": 400,
"min": 2.19,
"train": 0.1509,
"bytes_seen": 1638400,
"val": 0.1357
},
{
"step": 600,
"min": 3.39,
"train": 0.1405,
"bytes_seen": 2457600,
"val": 0.1151
},
{
"step": 800,
"min": 12.64,
"train": 0.1231,
"bytes_seen": 3276800,
"val": 0.1081
}
],
"val_ce": 0.10233392380177975,
"samples": {
"Bonjour, comment ça va ?": [
"Un peu fatigué, mais ça va. Et toi ?\nUtilisateur: Qu'est-ce que tu proposes ?\nAssistant: Je suis d",
"C'est une longue histoire, je te raconterai.\nUtilisateur: Qu'est-ce que tu proposes ?\nAssistant: D'a",
"Parce que j'ai essayé et ça marche bien.\n\n"
],
"Qui es-tu ?": [
"Peut-être jeudi, on verra.\n\n",
"Je suis Atom, un petit modèle qui apprend à parler.\nUtilisateur: Dis-m'en plus.\nAssistant: Bonne q",
"Je suis Atom, un petit modèle qui apprend à parler.\nUtilisateur: Qu'est-ce que tu proposes ?\nAssis"
],
"Il était une fois": [
"Comme tu veux, on fera autrement.\nUtilisateur: Tu veux qu'on recommence ?\nAssistant: Bonne question,",
"Super, on fait comme ça.\n\n",
"À demain, prends soin de toi.\nUtilisateur: Tu veux qu'on recommence ?\nAssistant: Peut-être jeudi, "
]
}
}