exp36 D11

charset.json

@@ -0,0 +1 @@
+{"chars": ["", "א", "ב", "ג", "ד", "ה", "ו", "ז", "ח", "ט", "י", "כ", "ך", "ל", "מ", "ם", "נ", "ן", "ס", "ע", "פ", "ף", "צ", "ץ", "ק", "ר", "ש", "ת", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", " ", "'", "\"", "-", ".", ",", ":", ";", "!", "?", "(", ")", "[", "]", "{", "}", "/", "\\", "|", "*", "+", "=", "%", "&", "#", "@", "_", "<", ">", "~", "^", "$", "a", "b", "c", "d", "e", "f", "g", "h", "i", "j", "k", "l", "m", "n", "o", "p", "q", "r", "s", "t", "u", "v", "w", "x", "y", "z", "A", "B", "C", "D", "E", "F", "G", "H", "I", "J", "K", "L", "M", "N", "O", "P", "Q", "R", "S", "T", "U", "V", "W", "X", "Y", "Z", "˙", "،", "ء", "آ", "أ", "ؤ", "إ", "ئ", "ا", "ب", "ة", "ت", "ث", "ج", "ح", "خ", "د", "ذ", "ر", "ز", "س", "ش", "ص", "ض", "ط", "ظ", "ع", "غ", "ـ", "ف", "ق", "ك", "ل", "م", "ن", "ه", "و", "ى", "ي", "§", "½", "Å", "Æ", "Ø", "ä", "å", "æ", "é", "ö", "ø", "ü", "°", "É", "à", "â", "ç", "è", "ê", "î", "ô", "ù", "û", "œ", "¬", "º", "ę", "·", "¼", "¾", "ß", "•", "¶", "ï", "ÿ", "¤", "€"]}

model.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5fa8ef2451d24db9abe4cf029603687516839f128c1bded1b3f55b18cead289b
+size 119197728

results.json

@@ -0,0 +1,57 @@
+{
+ "exp": "exp36",
+ "arm": "D11",
+ "config": {
+  "enc": "microsoft/trocr-small-stage1",
+  "row_h": 64,
+  "overlap": 0,
+  "sub": 2,
+  "head": "tf2",
+  "fusion": false,
+  "inter_ctc": 0,
+  "span_mask": 0.0,
+  "passes": 3,
+  "lr_enc": 5e-05,
+  "lr_head": 0.0003,
+  "aug": 0.7,
+  "phase_a": 60000,
+  "batch": 32
+ },
+ "encoder_source": "microsoft/trocr-small-stage1",
+ "train": {
+  "synthetic": "cyttic/heb-synth-hhf11-llm3-100k (minus 1000 held out)",
+  "lines": 99000
+ },
+ "budget": {
+  "batch": 32,
+  "phase_A_samples": 60000,
+  "phase_B_passes": 3
+ },
+ "hhd_split": {
+  "seed": 42,
+  "test_frac": 0.2,
+  "dev_frac": 0.2,
+  "dev_writers": 109
+ },
+ "best_checkpoint": "B_unfrozen step 8000",
+ "decode": "greedy",
+ "results": {
+  "hhd_dev": {
+   "cer_raw": 0.3093904649410423,
+   "wer_raw": 0.8743318548845672,
+   "cer_let": 0.2758555452787354,
+   "wer_let": 0.8475595651168171
+  },
+  "syn_holdout": {
+   "cer_raw": 0.0016780305444040868,
+   "wer_raw": 0.008866133866133866,
+   "cer_let": 0.000997097338857991,
+   "wer_let": 0.00569620253164557
+  },
+  "number_order_heldout": {
+   "correct": 154,
+   "reversed": 0,
+   "other": 15
+  }
+ }
+}

train_log.tsv

@@ -0,0 +1,7 @@
+phase	step	samples	train_loss	dev_cer	dev_wer	sec
+A_frozen	1875	60000	2.7166	0.7969	1.0031	207
+B_unfrozen	2000	64000	0.5420	0.3543	0.8999	435
+B_unfrozen	4000	128000	0.1534	0.3354	0.9226	871
+B_unfrozen	6000	192000	0.0917	0.3219	0.9181	1306
+B_unfrozen	8000	256000	0.0625	0.3094	0.8743	1743
+B_unfrozen	9281	296992	0.0534	0.3114	0.8887	2023