ATOM (atom-ai): code snapshot (100fae0 + batched-train), README with measured numbers, curated checkpoints (part 3)
969c687 verified | { | |
| "name": "f10", | |
| "params": 2611456, | |
| "train_bytes": 95949, | |
| "frac": 0.1, | |
| "extra": [], | |
| "steps": 1821, | |
| "epochs": 77.74, | |
| "log": [ | |
| { | |
| "step": 200, | |
| "min": 1.4, | |
| "train": 0.204, | |
| "bytes_seen": 819200, | |
| "val": 0.2491 | |
| }, | |
| { | |
| "step": 400, | |
| "min": 2.8, | |
| "train": 0.1321, | |
| "bytes_seen": 1638400, | |
| "val": 0.1539 | |
| }, | |
| { | |
| "step": 600, | |
| "min": 4.76, | |
| "train": 0.1306, | |
| "bytes_seen": 2457600, | |
| "val": 0.1368 | |
| }, | |
| { | |
| "step": 800, | |
| "min": 6.94, | |
| "train": 0.1241, | |
| "bytes_seen": 3276800, | |
| "val": 0.1241 | |
| }, | |
| { | |
| "step": 1000, | |
| "min": 9.45, | |
| "train": 0.1149, | |
| "bytes_seen": 4096000, | |
| "val": 0.119 | |
| }, | |
| { | |
| "step": 1200, | |
| "min": 11.75, | |
| "train": 0.1189, | |
| "bytes_seen": 4915200, | |
| "val": 0.1217 | |
| }, | |
| { | |
| "step": 1400, | |
| "min": 14.0, | |
| "train": 0.1123, | |
| "bytes_seen": 5734400, | |
| "val": 0.1174 | |
| }, | |
| { | |
| "step": 1600, | |
| "min": 16.25, | |
| "train": 0.1123, | |
| "bytes_seen": 6553600, | |
| "val": 0.1195 | |
| }, | |
| { | |
| "step": 1800, | |
| "min": 19.62, | |
| "train": 0.1103, | |
| "bytes_seen": 7372800, | |
| "val": 0.12 | |
| } | |
| ], | |
| "val_ce": 0.11931887827813625, | |
| "samples": { | |
| "Bonjour, comment ça va ?": [ | |
| "Parce que j'ai essayé et ça marche bien.\nUtilisateur: Et toi, qu'en penses-tu ?\nAssistant: Oui, to", | |
| "Parce que j'ai essayé et ça marche bien.\nUtilisateur: Qu'est-ce que tu proposes ?\nAssistant: D'acc", | |
| "Parce que j'ai essayé et ça marche bien.\n\n" | |
| ], | |
| "Qui es-tu ?": [ | |
| "Je m'appelle Atom. J'apprends le français avec toi.\nUtilisateur: Dis-m'en plus.\nAssistant: Avec pla", | |
| "Je m'appelle Atom. J'apprends le français avec toi.\n\n", | |
| "Moi c'est Atom, je réponds du mieux que je peux.\nUtilisateur: Qu'est-ce que tu proposes ?\nAssistant" | |
| ], | |
| "Il était une fois": [ | |
| "Bonne nuit, dors bien.\nUtilisateur: Tu es d'accord ?\nAssistant: D'accord, je t'écoute.\n\n", | |
| "À demain, prends soin de toi.\nUtilisateur: Tu es d'accord ?\nAssistant: Je suis d'accord avec toi.\n\n", | |
| "Au revoir, à bientôt.\n\n" | |
| ] | |
| } | |
| } |