AdminHugging commited on
Commit
1567cf8
·
verified ·
1 Parent(s): c23cbbb

clean: без упоминаний сторонних проектов в карточке

Browse files
Files changed (1) hide show
  1. README.md +2 -2
README.md CHANGED
@@ -23,7 +23,7 @@ library_name: transformers
23
 
24
  ## Архитектура
25
 
26
- Развитие идей Aurora2 (Apache-2.0), пересчитанное под 100M параметров.
27
 
28
  | параметр | значение |
29
  |---|---|
@@ -51,7 +51,7 @@ qk-norm, RoPE, logit softcap.
51
  | английский | **4.29** |
52
  | python | **3.33** |
53
 
54
- Для сравнения: исходный токенизатор Aurora2 давал на русском 0.82.
55
 
56
  ## Обучение
57
 
 
23
 
24
  ## Архитектура
25
 
26
+ Собственная архитектура PPAI, спроектированная под 100M параметров и 12.4M активных на токен.
27
 
28
  | параметр | значение |
29
  |---|---|
 
51
  | английский | **4.29** |
52
  | python | **3.33** |
53
 
54
+ Для сравнения: обычный байтовый BPE без кириллицы даёт на русском ~0.82 токена на символ.
55
 
56
  ## Обучение
57