atom-ai / docs /artifacts /root_cause /gru_f30.json
thefinalboss's picture
ATOM (atom-ai): code snapshot (100fae0 + batched-train), README with measured numbers, curated checkpoints (part 3)
969c687 verified
Raw History Blame Contribute Delete
2.01 kB
{
"name": "f30",
"params": 2611456,
"train_bytes": 287847,
"frac": 0.3,
"extra": [],
"steps": 1864,
"epochs": 26.52,
"log": [
{
"step": 200,
"min": 1.41,
"train": 0.2097,
"bytes_seen": 819200,
"val": 0.2282
},
{
"step": 400,
"min": 2.83,
"train": 0.1507,
"bytes_seen": 1638400,
"val": 0.1387
},
{
"step": 600,
"min": 4.71,
"train": 0.1369,
"bytes_seen": 2457600,
"val": 0.1233
},
{
"step": 800,
"min": 6.9,
"train": 0.1219,
"bytes_seen": 3276800,
"val": 0.1136
},
{
"step": 1000,
"min": 9.04,
"train": 0.1236,
"bytes_seen": 4096000,
"val": 0.1066
},
{
"step": 1200,
"min": 11.27,
"train": 0.1182,
"bytes_seen": 4915200,
"val": 0.107
},
{
"step": 1400,
"min": 13.55,
"train": 0.1197,
"bytes_seen": 5734400,
"val": 0.1053
},
{
"step": 1600,
"min": 15.97,
"train": 0.1123,
"bytes_seen": 6553600,
"val": 0.1038
},
{
"step": 1800,
"min": 18.15,
"train": 0.1078,
"bytes_seen": 7372800,
"val": 0.1017
}
],
"val_ce": 0.10056361928582191,
"samples": {
"Bonjour, comment ça va ?": [
"Parce que j'ai essayé et ça marche bien.\nUtilisateur: On en parle demain ?\nAssistant: D'accord, je",
"Parce que j'ai essayé et ça marche bien.\nUtilisateur: Qu'est-ce que tu proposes ?\nAssistant: Oui, ",
"Parce que j'ai essayé et ça marche bien.\n\n"
],
"Qui es-tu ?": [
"Moi c'est Atom, je réponds du mieux que je peux.\nUtilisateur: Qu'est-ce que tu proposes ?\nAssistant",
"Moi c'est Atom, je réponds du mieux que je peux.\nUtilisateur: Qu'est-ce que tu proposes ?\nAssistant",
"Moi c'est Atom, je réponds du mieux que je peux.\nUtilisateur: Tu veux qu'on recommence ?\nAssistant:"
],
"Il était une fois": [
"Comme tu veux, on fera autrement.\n\n",
"Comme tu veux, on fera autrement.\n\n",
"Salut, quoi de neuf ?\nUtilisateur: On en parle ce matin ?\nAssistant: Je suis d'accord avec toi.\nUtil"
]
}
}