C3-Lite / tokenizer.json
longtimedevs's picture
Upload 7 files
c194db0 verified
Raw History Blame Contribute Delete
16.3 kB
{
"chars": [
"<pad>",
"<unk>",
"<s>",
"</s>",
" ",
"e",
"a",
"t",
"i",
"n",
"o",
"r",
"s",
"h",
"l",
"d",
"c",
"u",
"m",
"\n",
"f",
"g",
"p",
"y",
"w",
"b",
",",
"v",
".",
"а",
"ا",
"k",
"ل",
"ي",
"о",
"е",
"н",
"T",
"@",
"م",
"ن",
"т",
"S",
"1",
"A",
"=",
"с",
"I",
"0",
"ت",
"р",
"л",
"C",
"'",
"\"",
"ر",
"M",
"м",
"в",
"ب",
"к",
"ы",
"д",
"B",
"أ",
"у",
"и",
"H",
"و",
"ك",
"і",
"я",
"2",
"ع",
"س",
"د",
"п",
"ه",
"-",
"D",
"9",
"x",
"W",
"з",
"P",
"ة",
"ف",
"б",
"L",
"F",
"R",
"ь",
"z",
"E",
"N",
"ц",
"j",
"ق",
"G",
"ح",
"г",
"J",
"?",
"O",
"ч",
"8",
"3",
"5",
"й",
"q",
"4",
"ш",
"6",
"ج",
"ّ",
"K",
"ə",
"7",
"ў",
"ى",
"э",
"ж",
"ذ",
"ю",
"U",
"ط",
"ı",
"ش",
"V",
"إ",
"х",
"ص",
"Я",
"Y",
"خ",
"ز",
"ض",
":",
";",
"؟",
"غ",
"ё",
"ث",
"ü",
"–",
"!",
"ً",
"Z",
"י",
"—",
"М",
"Т",
"َ",
"ş",
"é",
"א",
"ء",
"ئ",
"ו",
"С",
"ُ",
"(",
"ה",
")",
"В",
"Н",
"К",
"ظ",
"،",
"У",
"ç",
"П",
"ל",
"ö",
"ِ",
"щ",
"Г",
"ф",
"ğ",
"ת",
"Q",
"ר",
"Д",
"á",
"ב",
"О",
"מ",
"آ",
"נ",
"ש",
"/",
"А",
"ע",
"%",
"Л",
"া",
"ó",
"í",
"$",
"Б",
"X",
"ْ",
"’",
"«",
"»",
"]",
"[",
"ד",
"α",
"З",
"ি",
"ם",
"Ё",
"。",
"Ч",
"ä",
"ে",
"Ц",
"Р",
"ৰ",
"ক",
"Э",
"は",
"&",
"ח",
"כ",
"¿",
"פ",
"ؤ",
"ε",
"ā",
"ο",
"Х",
"є",
"ן",
"の",
"ט",
"ν",
"い",
"è",
"ι",
"ק",
"ї",
"た",
"ম",
"ז",
"ĝ",
"ন",
"ס",
"ত",
"τ",
"Ш",
"İ",
"Ф",
"ŭ",
"ল",
"ĉ",
"ê",
"な",
"ł",
"ব",
"צ",
"に",
"し",
"ג",
"で",
"ো",
"£",
"μ",
"Е",
"ַ",
"ñ",
"ך",
"ρ",
"を",
"°",
"।",
"ŝ",
"す",
"σ",
"ই",
"ί",
"য",
"Ĉ",
"І",
"্",
"て",
"ָ",
"か",
"ß",
"à",
"ু",
"ć",
"প",
"π",
"ς",
"ま",
"が",
"ę",
"υ",
"っ",
"И",
"ٌ",
"়",
"ë",
"ٍ",
"আ",
"+",
"る",
"私",
"ট",
"É",
"κ",
"あ",
"“",
"ō",
"ছ",
"λ",
"Ж",
"ś",
"と",
"、",
"η",
"ú",
"ά",
"彼",
"ό",
"š",
"স",
"ん",
"হ",
"ą",
"Ç",
"ら",
"έ",
"ঁ",
"う",
"ъ",
"こ",
"れ",
"ż",
"き",
"も",
"Ŝ",
"#",
"গ",
"¡",
"জ",
"চ",
"ø",
"り",
"ή",
"ω",
"γ",
"Ş",
"”",
"ֿ",
"く",
"ף",
"ー",
"−",
"ּ",
"দ",
"だ",
"ύ",
"Ö",
"„",
"ã",
"χ",
"さ",
"ī",
"ৱ",
"ʻ",
"এ",
"ী",
"ی",
"そ",
"ン",
"খ",
"₹",
"θ",
"δ",
"Ü",
"ৈ",
"č",
"ώ",
"ô",
"â",
"β",
"よ",
"人",
"け",
"Π",
"せ",
"ア",
"ভ",
"î",
"ス",
"ū",
"×",
"ও",
"Ю",
"র",
"φ",
"ት",
"→",
"お",
"つ",
"থ",
"Ə",
"ù",
"অ",
"日",
"ち",
"ζ",
"…",
"ì",
"ײ",
"女",
"行",
"「",
"」",
"ư",
"",
"ń",
"።",
"ĵ",
"ど",
"ষ",
"শ",
"Æ",
"ラ",
"ው",
"Ε",
"Μ",
"Щ",
"リ",
"ž",
"Í",
"ă",
"ト",
"다",
"እ",
"言",
"ơ",
"‘",
"Й",
"ץ",
"ʼ",
"µ",
"本",
"イ",
"ን",
"め",
"는",
"ば",
"ነ",
"語",
"手",
"ণ",
"ē",
"ル",
"ም",
"‏",
"١",
"_",
"何",
"어",
"Τ",
"学",
"이",
"*",
"Ō",
"一",
"ク",
"え",
"አ",
"話",
"時",
"ফ",
"ধ",
"Å",
"û",
"分",
"ስ",
"~",
"好",
"☉",
"‎",
"見",
"生",
"?",
"가",
"ï",
"ር",
"€",
"知",
"来",
"ź",
"⁄",
"È",
"å",
"ደ",
"æ",
"‬",
"事",
"カ",
"自",
"에",
"ი",
"ò",
"車",
"Ο",
"Δ",
"ִ",
"君",
"Ї",
"ለ",
"በ",
"み",
"わ",
"ッ",
"요",
"ә",
"ک",
"የ",
"ξ",
"Α",
"食",
"大",
"出",
"昨",
"中",
"고",
"Ä",
"達",
"٩",
"‌",
"へ",
"べ",
"를",
"́",
"フ",
"上",
"シ",
"ል",
"父",
"々",
"ј",
"ড",
"ঘ",
"ệ",
"ს",
"œ",
"持",
"ተ",
"ወ",
"ְ",
"ろ",
"思",
"ე",
"1",
"子",
"ド",
"Ø",
"Έ",
"־",
"メ",
"会",
"最",
"書",
"我",
"家",
"ュ",
"있",
"ە",
"ূ",
"য়",
"ė",
"Č",
"Ā",
"ባ",
"ህ",
"Η",
"ـ",
"‮",
"ő",
"電",
"転",
"ょ",
"ム",
"国",
"Є",
"ঠ",
"৷",
"²",
"ễ",
"ỳ",
"テ",
"መ",
"؛",
"Σ",
"運",
"月",
"マ",
"レ",
"間",
"ブ",
"紙",
"지",
"아",
"ې",
"উ",
"đ",
"♯",
"‑",
"Î",
"Đ",
"რ",
"金",
"高",
"起",
"ማ",
"ሄ",
"ች",
"ይ",
"٠",
"Γ",
"ψ",
"Θ",
"׳",
"ロ",
"方",
"下",
"今",
"0",
"리",
"그",
"Š",
"ˈ",
"ḥ",
"ṃ",
"Ĝ",
"校",
"ィ",
"2",
"説",
"ዎ",
"ቤ",
"ድ",
"ክ",
"٦",
"要",
"ビ",
"動",
"明",
"コ",
"ピ",
"決",
"前",
"実",
"合",
"나",
"Ł",
"ۇ",
"ং",
"<",
"§",
"パ",
"ェ",
"年",
"キ",
"ከ",
"ያ",
"Χ",
"​",
"ֶ",
"ֹ",
"美",
"ぜ",
"母",
"者",
"受",
"名",
"仕",
"画",
"ニ",
"ほ",
"近",
"니",
"을",
"자",
"하",
"†",
"≤",
"〈",
"〉",
"ქ",
"ტ",
"Á",
"当",
"ペ",
"ኔ",
"ቀ",
"ጣ",
"ý",
"٨",
"良",
"教",
"先",
"所",
"ベ",
"ず",
"理",
"愛",
"悪",
"タ",
"貸",
"以",
"気",
"僕",
"ジ",
"香",
"한",
"도",
"은",
"것",
"일",
"마",
"پ",
"ۈ",
"ě",
"ṯ",
"^",
"♭",
"′",
"ṅ",
"ხ",
"ლ",
"ř",
"二",
"バ",
"考",
"物",
"ሪ",
"ኝ",
"ረ",
"ኩ",
"ሕ",
"ሩ",
"ጥ",
"ና",
"Κ",
"ھ",
"۰",
"ぐ",
"必",
"じ",
"ノ",
"心",
"通",
"ね",
"3",
"部",
"や",
"ゃ",
"正",
"信",
"新",
"葉",
"誰",
"多",
"場",
"計",
"強",
"結",
"小",
"む",
"取",
"サ",
"제",
"시",
"로",
"해",
"기",
"내",
"ঙ",
"`",
"ґ",
"ː",
"ầ",
"ấ",
"ị",
"ṭ",
"მ",
"ო",
"ვ",
"წ",
"ů",
"چ",
"都",
"ጋ",
"ሁ",
"ግ",
"ፈ",
"ሳ",
"ዚ",
"ዳ",
"‫",
"٤",
"٥",
"٢",
"٣",
"ĥ",
"À",
"Ú",
"ツ",
"読",
"作",
"ぶ",
"度",
"統",
"領",
"弾",
"親",
"げ",
"問",
"題",
"発",
"ギ",
"遅",
"び",
"ケ",
"飲",
"病",
"叔",
"雨",
"花",
"屋",
"試",
"朝",
"婚",
"代",
"デ",
"勉",
"在",
"プ",
"辞",
"着",
"友",
"チ",
"性",
"보",
"습",
"게",
"라",
"ڭ",
"ہ",
"৭",
"০",
"ঢ",
"ा",
"ň",
"·",
"Ż",
">",
"ớ",
"ả",
"ṇ",
"დ",
"ჲ",
"گ",
"供",
"買",
"早",
"ቡ",
"ካ",
"ፍ",
"ሰ",
"ቅ",
"ቋ",
"ራ",
"Ή",
"Ά",
"ٰ",
"|",
"ֵ",
"ֲ",
"ャ",
"真",
"ワ",
"定",
"水",
"向",
"関",
"回",
"入",
"全",
"単",
"ハ",
"対",
"ァ",
"星",
"映",
"楽",
"背",
"立",
"違",
"番",
"解",
"聞",
"緒",
"確",
"赤",
"次",
"置",
"急",
"民",
"主",
"冊",
"頃",
"世",
"エ",
"感",
"目",
"周",
"ヒ",
"乗",
"犬",
"幸",
"医",
"東",
"伝",
"住",
"詩",
"文",
"同",
"너",
"만",
"사",
"침",
"알",
"간",
"했",
"못",
"오",
"열",
"ں",
"২",
"ৌ",
"Ž",
"‽",
"戦",
"ạ",
"¥",
"½",
"⅓",
"ɑ",
"ܐ",
"ਅ",
"ਲ",
"ਹ",
"უ",
"ჱ",
"ფ",
"ა",
"კ",
"晩",
"ダ",
"十",
"演",
"ቢ",
"ሜ",
"ኤ",
"ሲ",
"ሊ",
"ሴ",
"ጽ",
"ብ",
"ላ",
"ቸ",
"ገ",
"Λ",
"Ι",
"‍",
"٧",
"۹",
"Ê",
"ű",
"夕",
"後",
"空",
"港",
"始",
"求",
"働",
"訪",
"ボ",
"!",
"断",
"旅",
"誕",
"船",
"利",
"用",
"可",
"逃",
"支",
"薬",
"流",
"止",
"政",
"暗",
"神",
"成",
"反",
"ウ",
"皮",
"夜",
"得",
"難",
"英",
"泳",
"ざ",
"印",
"毒",
"ガ",
"重",
"地",
"義",
"苦",
"途",
"内",
"界",
"忘",
"7",
"鳴",
"佐",
"毎",
"ご",
"両",
"互",
"市",
"験",
"他",
"現",
"修",
"音",
"ポ",
"ミ",
"数",
"失",
"有",
"滞",
"歌",
"眠",
"終",
"由",
"扱",
"京",
"機",
"直",
"外",
"匹",
"海",
"ぎ",
"降",
"차",
"주",
"없",
"운",
"정",
"인",
"와",
"면",
"의",
"전",
"서",
"신",
"용",
"잘",
"먹",
"늘",
"스",
"메",
"학",
"디",
"었",
"책",
"ٓ",
"⁠",
"ঞ",
"১",
"৩",
"ৃ",
"्",
"ल",
"与",
"개",
"톰",
"ү",
"№",
"ť",
"ヴ",
"º",
"ᵻ",
"ṣ",
"ʊ",
"ɒ",
"″",
"ʿ",
"±",
"Þ",
"⅔",
"ắ",
"ử",
"ų",
"ნ",
"ჳ",
"ჴ",
"ჰ",
"ზ",
"ჯ",
"ძ",
"გ",
"ც",
"Ĥ",
"曜",
"三",
"四",
"五",
"六",
"七",
"八",
"九",
"台",
"歳",
"ヘ",
"首",
"ጠ",
"ቱ",
"ዝ",
"ኛ",
"ቶ",
"ሐ",
"ፋ",
"ሉ",
"ጅ",
"ሙ",
"ሆ",
"ቴ",
"ኪ",
"ዬ",
"Β",
"Ν",
"ɣ",
"ׁ",
"将",
"味",
"授",
"写",
"去",
"4",
"予",
"鍵",
"息",
"覚",
"加",
"携",
"帯",
"喜",
"保",
"健",
"臓",
"表",
"府",
"禁",
"建",
"員",
"記",
"務",
"慈",
"悲",
"抑",
"制",
"絶",
"木",
"掛",
"返",
"俺",
"習",
"田",
"舎",
"殺",
"5",
"連",
"玄",
"締",
"伴",
"霊",
"追",
"蛇",
"害",
"贈",
"野",
"値",
"段",
"申",
"配",
"期",
"圧",
"痛",
"判",
"掃",
"除",
"共",
"暮",
"情",
"倒",
"光",
"頼",
"机",
"娘",
"育",
"意",
"林",
"檎",
"社",
"古",
"速",
"不",
"球",
"ゴ",
"徒",
"赦",
"青",
"活",
"オ",
"声",
"福",
"ぱ",
"低",
"ヨ",
"切",
"望",
"道",
"混",
"変",
"面",
"白",
"ヶ",
"週",
"過",
"罪",
"貧",
"財",
"告",
"老",
"波",
"辺",
"危",
"ふ",
"ズ",
"格",
"命",
"引",
"裂",
"敗",
"北",
"無",
"暑",
"洗",
"駅",
"熱",
"砂",
"猫",
"聴",
"泣",
"使",
"6",
"ゼ",
"ョ",
"少",
"店",
"際",
"頭",
"・",
"『",
"魔",
"』",
"傑",
"似",
"グ",
"누",
"훔",
"처",
"갔",
"소",
"께",
"우",
"말",
"행",
"년",
"실",
"화",
"당",
"줄",
"수",
"호",
"혼",
"방",
"적",
"과",
"데",
"험",
"더",
"같",
"구",
"랍",
"언",
"생",
"각",
"않",
"야",
"랑",
"밖",
"쇠",
"바",
"트",
"으",
"파",
"입",
"올",
"밤",
"분",
"좋",
"녀",
"날",
"석",
"음",
"여",
"읽",
"싶",
"조",
"ױ",
"ׂ",
"װ",
"क",
"प",
"ह",
"牛",
"鶏",
"루",
"양",
"選",
"送",
"ӱ",
"粵",
"詞",
"典",
"₤",
"ἀ",
"ὑ",
"侗",
"Ḥ",
"Ó",
"ˌ",
"〜",
"ð",
"ș",
"≡",
"ọ",
"ứ",
"ỏ",
"攻",
"殻",
"隊",
"ɫ",
"ܠ",
"ܗ",
"ܵ",
"ੁ",
"ਾ",
"拉",
"安",
"ള",
"്",
"ḷ",
"อ",
"ล",
"州",
"Ś",
"თ",
"ჵ",
"ყ",
"პ",
"შ",
"ჭ",
"჻"
]
}