2nugu commited on
Commit
d7dbb06
·
verified ·
1 Parent(s): eb900e7

laya-ko: Korean fine-tune of Laya, with ONNX export, tokenizer and golden vectors

Browse files
.gitattributes CHANGED
@@ -33,3 +33,6 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
33
  *.zip filter=lfs diff=lfs merge=lfs -text
34
  *.zst filter=lfs diff=lfs merge=lfs -text
35
  *tfevents* filter=lfs diff=lfs merge=lfs -text
 
 
 
 
33
  *.zip filter=lfs diff=lfs merge=lfs -text
34
  *.zst filter=lfs diff=lfs merge=lfs -text
35
  *tfevents* filter=lfs diff=lfs merge=lfs -text
36
+ onnx/model.onnx.data filter=lfs diff=lfs merge=lfs -text
37
+ onnx/tokenizer.json filter=lfs diff=lfs merge=lfs -text
38
+ tokenizer/tokenizer.json filter=lfs diff=lfs merge=lfs -text
LICENSE ADDED
@@ -0,0 +1,202 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+
2
+ Apache License
3
+ Version 2.0, January 2004
4
+ http://www.apache.org/licenses/
5
+
6
+ TERMS AND CONDITIONS FOR USE, REPRODUCTION, AND DISTRIBUTION
7
+
8
+ 1. Definitions.
9
+
10
+ "License" shall mean the terms and conditions for use, reproduction,
11
+ and distribution as defined by Sections 1 through 9 of this document.
12
+
13
+ "Licensor" shall mean the copyright owner or entity authorized by
14
+ the copyright owner that is granting the License.
15
+
16
+ "Legal Entity" shall mean the union of the acting entity and all
17
+ other entities that control, are controlled by, or are under common
18
+ control with that entity. For the purposes of this definition,
19
+ "control" means (i) the power, direct or indirect, to cause the
20
+ direction or management of such entity, whether by contract or
21
+ otherwise, or (ii) ownership of fifty percent (50%) or more of the
22
+ outstanding shares, or (iii) beneficial ownership of such entity.
23
+
24
+ "You" (or "Your") shall mean an individual or Legal Entity
25
+ exercising permissions granted by this License.
26
+
27
+ "Source" form shall mean the preferred form for making modifications,
28
+ including but not limited to software source code, documentation
29
+ source, and configuration files.
30
+
31
+ "Object" form shall mean any form resulting from mechanical
32
+ transformation or translation of a Source form, including but
33
+ not limited to compiled object code, generated documentation,
34
+ and conversions to other media types.
35
+
36
+ "Work" shall mean the work of authorship, whether in Source or
37
+ Object form, made available under the License, as indicated by a
38
+ copyright notice that is included in or attached to the work
39
+ (an example is provided in the Appendix below).
40
+
41
+ "Derivative Works" shall mean any work, whether in Source or Object
42
+ form, that is based on (or derived from) the Work and for which the
43
+ editorial revisions, annotations, elaborations, or other modifications
44
+ represent, as a whole, an original work of authorship. For the purposes
45
+ of this License, Derivative Works shall not include works that remain
46
+ separable from, or merely link (or bind by name) to the interfaces of,
47
+ the Work and Derivative Works thereof.
48
+
49
+ "Contribution" shall mean any work of authorship, including
50
+ the original version of the Work and any modifications or additions
51
+ to that Work or Derivative Works thereof, that is intentionally
52
+ submitted to Licensor for inclusion in the Work by the copyright owner
53
+ or by an individual or Legal Entity authorized to submit on behalf of
54
+ the copyright owner. For the purposes of this definition, "submitted"
55
+ means any form of electronic, verbal, or written communication sent
56
+ to the Licensor or its representatives, including but not limited to
57
+ communication on electronic mailing lists, source code control systems,
58
+ and issue tracking systems that are managed by, or on behalf of, the
59
+ Licensor for the purpose of discussing and improving the Work, but
60
+ excluding communication that is conspicuously marked or otherwise
61
+ designated in writing by the copyright owner as "Not a Contribution."
62
+
63
+ "Contributor" shall mean Licensor and any individual or Legal Entity
64
+ on behalf of whom a Contribution has been received by Licensor and
65
+ subsequently incorporated within the Work.
66
+
67
+ 2. Grant of Copyright License. Subject to the terms and conditions of
68
+ this License, each Contributor hereby grants to You a perpetual,
69
+ worldwide, non-exclusive, no-charge, royalty-free, irrevocable
70
+ copyright license to reproduce, prepare Derivative Works of,
71
+ publicly display, publicly perform, sublicense, and distribute the
72
+ Work and such Derivative Works in Source or Object form.
73
+
74
+ 3. Grant of Patent License. Subject to the terms and conditions of
75
+ this License, each Contributor hereby grants to You a perpetual,
76
+ worldwide, non-exclusive, no-charge, royalty-free, irrevocable
77
+ (except as stated in this section) patent license to make, have made,
78
+ use, offer to sell, sell, import, and otherwise transfer the Work,
79
+ where such license applies only to those patent claims licensable
80
+ by such Contributor that are necessarily infringed by their
81
+ Contribution(s) alone or by combination of their Contribution(s)
82
+ with the Work to which such Contribution(s) was submitted. If You
83
+ institute patent litigation against any entity (including a
84
+ cross-claim or counterclaim in a lawsuit) alleging that the Work
85
+ or a Contribution incorporated within the Work constitutes direct
86
+ or contributory patent infringement, then any patent licenses
87
+ granted to You under this License for that Work shall terminate
88
+ as of the date such litigation is filed.
89
+
90
+ 4. Redistribution. You may reproduce and distribute copies of the
91
+ Work or Derivative Works thereof in any medium, with or without
92
+ modifications, and in Source or Object form, provided that You
93
+ meet the following conditions:
94
+
95
+ (a) You must give any other recipients of the Work or
96
+ Derivative Works a copy of this License; and
97
+
98
+ (b) You must cause any modified files to carry prominent notices
99
+ stating that You changed the files; and
100
+
101
+ (c) You must retain, in the Source form of any Derivative Works
102
+ that You distribute, all copyright, patent, trademark, and
103
+ attribution notices from the Source form of the Work,
104
+ excluding those notices that do not pertain to any part of
105
+ the Derivative Works; and
106
+
107
+ (d) If the Work includes a "NOTICE" text file as part of its
108
+ distribution, then any Derivative Works that You distribute must
109
+ include a readable copy of the attribution notices contained
110
+ within such NOTICE file, excluding those notices that do not
111
+ pertain to any part of the Derivative Works, in at least one
112
+ of the following places: within a NOTICE text file distributed
113
+ as part of the Derivative Works; within the Source form or
114
+ documentation, if provided along with the Derivative Works; or,
115
+ within a display generated by the Derivative Works, if and
116
+ wherever such third-party notices normally appear. The contents
117
+ of the NOTICE file are for informational purposes only and
118
+ do not modify the License. You may add Your own attribution
119
+ notices within Derivative Works that You distribute, alongside
120
+ or as an addendum to the NOTICE text from the Work, provided
121
+ that such additional attribution notices cannot be construed
122
+ as modifying the License.
123
+
124
+ You may add Your own copyright statement to Your modifications and
125
+ may provide additional or different license terms and conditions
126
+ for use, reproduction, or distribution of Your modifications, or
127
+ for any such Derivative Works as a whole, provided Your use,
128
+ reproduction, and distribution of the Work otherwise complies with
129
+ the conditions stated in this License.
130
+
131
+ 5. Submission of Contributions. Unless You explicitly state otherwise,
132
+ any Contribution intentionally submitted for inclusion in the Work
133
+ by You to the Licensor shall be under the terms and conditions of
134
+ this License, without any additional terms or conditions.
135
+ Notwithstanding the above, nothing herein shall supersede or modify
136
+ the terms of any separate license agreement you may have executed
137
+ with Licensor regarding such Contributions.
138
+
139
+ 6. Trademarks. This License does not grant permission to use the trade
140
+ names, trademarks, service marks, or product names of the Licensor,
141
+ except as required for reasonable and customary use in describing the
142
+ origin of the Work and reproducing the content of the NOTICE file.
143
+
144
+ 7. Disclaimer of Warranty. Unless required by applicable law or
145
+ agreed to in writing, Licensor provides the Work (and each
146
+ Contributor provides its Contributions) on an "AS IS" BASIS,
147
+ WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or
148
+ implied, including, without limitation, any warranties or conditions
149
+ of TITLE, NON-INFRINGEMENT, MERCHANTABILITY, or FITNESS FOR A
150
+ PARTICULAR PURPOSE. You are solely responsible for determining the
151
+ appropriateness of using or redistributing the Work and assume any
152
+ risks associated with Your exercise of permissions under this License.
153
+
154
+ 8. Limitation of Liability. In no event and under no legal theory,
155
+ whether in tort (including negligence), contract, or otherwise,
156
+ unless required by applicable law (such as deliberate and grossly
157
+ negligent acts) or agreed to in writing, shall any Contributor be
158
+ liable to You for damages, including any direct, indirect, special,
159
+ incidental, or consequential damages of any character arising as a
160
+ result of this License or out of the use or inability to use the
161
+ Work (including but not limited to damages for loss of goodwill,
162
+ work stoppage, computer failure or malfunction, or any and all
163
+ other commercial damages or losses), even if such Contributor
164
+ has been advised of the possibility of such damages.
165
+
166
+ 9. Accepting Warranty or Additional Liability. While redistributing
167
+ the Work or Derivative Works thereof, You may choose to offer,
168
+ and charge a fee for, acceptance of support, warranty, indemnity,
169
+ or other liability obligations and/or rights consistent with this
170
+ License. However, in accepting such obligations, You may act only
171
+ on Your own behalf and on Your sole responsibility, not on behalf
172
+ of any other Contributor, and only if You agree to indemnify,
173
+ defend, and hold each Contributor harmless for any liability
174
+ incurred by, or claims asserted against, such Contributor by reason
175
+ of your accepting any such warranty or additional liability.
176
+
177
+ END OF TERMS AND CONDITIONS
178
+
179
+ APPENDIX: How to apply the Apache License to your work.
180
+
181
+ To apply the Apache License to your work, attach the following
182
+ boilerplate notice, with the fields enclosed by brackets "[]"
183
+ replaced with your own identifying information. (Don't include
184
+ the brackets!) The text should be enclosed in the appropriate
185
+ comment syntax for the file format. We also recommend that a
186
+ file or class name and description of purpose be included on the
187
+ same "printed page" as the copyright notice for easier
188
+ identification within third-party archives.
189
+
190
+ Copyright [yyyy] [name of copyright owner]
191
+
192
+ Licensed under the Apache License, Version 2.0 (the "License");
193
+ you may not use this file except in compliance with the License.
194
+ You may obtain a copy of the License at
195
+
196
+ http://www.apache.org/licenses/LICENSE-2.0
197
+
198
+ Unless required by applicable law or agreed to in writing, software
199
+ distributed under the License is distributed on an "AS IS" BASIS,
200
+ WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
201
+ See the License for the specific language governing permissions and
202
+ limitations under the License.
NOTICE ADDED
@@ -0,0 +1,38 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ laya-ko
2
+ Copyright 2026 Hong-Gu Lee (Kangwon National University)
3
+
4
+ This product includes software and model weights derived from:
5
+
6
+ Laya — https://huggingface.co/convaiinnovations/laya
7
+ https://github.com/NandhaKishorM/laya
8
+ Copyright (c) Convai Innovations
9
+ Licensed under the Apache License, Version 2.0.
10
+
11
+ The fine-tuned weights in this repository are derived from the `multilingual`
12
+ checkpoint of Laya, which is itself built on:
13
+
14
+ mmBERT-base — https://huggingface.co/jhu-clsp/mmBERT-base
15
+ Licensed under the Apache License, Version 2.0.
16
+
17
+ Portions of `scripts/train.py` follow the RLCD training recipe published in
18
+ `notebooks/laya_finetune_typed_decisions_2xT4_kaggle.ipynb` in the Laya
19
+ repository (Apache License, Version 2.0).
20
+
21
+ The `rust/` reference implementation ports `laya.common.build_sequence` and the
22
+ post-processing in `laya.agent` from the `laya` Python package
23
+ (Apache License, Version 2.0).
24
+
25
+ Evaluation data referenced by `scripts/benchdata.py` is downloaded at run time
26
+ from its original sources and is NOT redistributed here:
27
+
28
+ KLUE (ynat / nli / sts / re) — CC BY-SA 4.0 — https://huggingface.co/datasets/klue/klue
29
+ LocalLLaMA/typed-decisions — Apache-2.0 — https://huggingface.co/datasets/LocalLLaMA/typed-decisions
30
+ Kev decision-v2 — Apache-2.0 — https://github.com/jaredpalmer/kev
31
+ JCommonsenseQA (JGLUE) — CC BY-SA 4.0 — https://github.com/yahoojapan/JGLUE
32
+ MMLU — MIT — https://huggingface.co/datasets/cais/mmlu
33
+ KMMLU — see dataset card — https://huggingface.co/datasets/HAERAE-HUB/KMMLU
34
+
35
+ Part of the Korean training mixture comes from AI-Hub (https://aihub.or.kr)
36
+ corpora held under the maintainer's own AI-Hub account. Those corpora are not
37
+ redistributed in this repository, and `scripts/traindata.py` expects them to be
38
+ present locally. See README.md § Training data.
README.md ADDED
@@ -0,0 +1,244 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: apache-2.0
3
+ base_model: convaiinnovations/laya
4
+ language:
5
+ - ko
6
+ - en
7
+ - ja
8
+ library_name: transformers
9
+ pipeline_tag: text-classification
10
+ tags:
11
+ - laya
12
+ - decision-model
13
+ - system-one
14
+ - calibrated-decisions
15
+ - korean
16
+ - klue
17
+ - classification
18
+ - routing
19
+ - onnx
20
+ metrics:
21
+ - accuracy
22
+ model-index:
23
+ - name: laya-ko
24
+ results:
25
+ - task:
26
+ type: text-classification
27
+ name: Topic classification (KLUE-YNAT)
28
+ dataset:
29
+ name: KLUE YNAT (validation)
30
+ type: klue
31
+ config: ynat
32
+ split: validation
33
+ metrics:
34
+ - type: accuracy
35
+ value: 0.834
36
+ name: Accuracy
37
+ - type: ece
38
+ value: 0.077
39
+ name: Expected calibration error
40
+ - task:
41
+ type: text-classification
42
+ name: Relation extraction (KLUE-RE)
43
+ dataset:
44
+ name: KLUE RE (validation)
45
+ type: klue
46
+ config: re
47
+ split: validation
48
+ metrics:
49
+ - type: accuracy
50
+ value: 0.705
51
+ name: Accuracy
52
+ - task:
53
+ type: text-classification
54
+ name: Natural language inference (KLUE-NLI)
55
+ dataset:
56
+ name: KLUE NLI (validation)
57
+ type: klue
58
+ config: nli
59
+ split: validation
60
+ metrics:
61
+ - type: accuracy
62
+ value: 0.815
63
+ name: Accuracy
64
+ - task:
65
+ type: text-classification
66
+ name: Semantic textual similarity, binned to 6 ordinal levels (KLUE-STS)
67
+ dataset:
68
+ name: KLUE STS (validation)
69
+ type: klue
70
+ config: sts
71
+ split: validation
72
+ metrics:
73
+ - type: accuracy
74
+ value: 0.509
75
+ name: Accuracy
76
+ ---
77
+
78
+ # laya-ko
79
+
80
+ Korean fine-tune of [Laya](https://huggingface.co/convaiinnovations/laya). Same
81
+ architecture, same 322 M parameters, same single forward pass — it just answers Korean
82
+ typed decisions far better.
83
+
84
+ **Code, benchmarks and the Rust/ONNX client:** https://github.com/\<your-github\>/laya-ko
85
+
86
+ > 라야(Laya)가 한국어를 잘 못하길래 튜닝해 보았습니다. 한국어 이용자분들 파이팅!
87
+
88
+ ## This is not a generative model
89
+
90
+ Laya is a bidirectional encoder (mmBERT-base) with a decision head. Each option in a
91
+ question gets a `[MASK]` marker; the head scores those markers and softmaxes **over that
92
+ question's options only**. No tokens are generated. You hand it text plus a typed
93
+ question and get back a calibrated probability distribution over options you defined at
94
+ call time.
95
+
96
+ | type | you give | you get |
97
+ |---|---|---|
98
+ | `choice` | named options, optionally described | best option + per-option probabilities |
99
+ | `score` | ordered levels, low to high | mean level + distribution over levels |
100
+ | `noul` | a yes/no statement | probability that it holds |
101
+
102
+ Good for classification, routing, intent detection, moderation gates, relevance judging
103
+ and grading, at ~30 ms on a CPU. Not for summarizing, translating or chatting.
104
+
105
+ ## Usage
106
+
107
+ ```bash
108
+ pip install laya
109
+ ```
110
+
111
+ ```python
112
+ import laya
113
+
114
+ agent = laya.load("2nugu/laya-ko")
115
+
116
+ state = "한국은행, 기준금리 0.25%p 인하 결정"
117
+ questions = {
118
+ "topic": {
119
+ "type": "choice",
120
+ "instructions": "다음 뉴스 제목의 주제 분야를 고르세요.",
121
+ "criteria": {
122
+ "IT과학": "정보기술·과학 기사", "경제": "경제·금융·산업 기사",
123
+ "사회": "사회·사건사고 기사", "생활문화": "생활·문화·연예 기사",
124
+ "세계": "국제·해외 기사", "스포츠": "스포츠 기사", "정치": "정치·외교 기사",
125
+ },
126
+ },
127
+ "urgent": {
128
+ "type": "noul",
129
+ "instructions": "이 뉴스는 즉시 대응이 필요한 사안인가?",
130
+ },
131
+ "importance": {
132
+ "type": "score",
133
+ "instructions": "이 뉴스의 중요도를 판정하세요.",
134
+ "criteria": ["매우 낮음", "낮음", "보통", "높음", "매우 높음"],
135
+ },
136
+ }
137
+
138
+ result = agent.predict(state, questions)
139
+ result["answers"]["topic"]["choice"] # "경제"
140
+ result["answers"]["topic"]["probabilities"] # {"경제": 1.0, "사회": 0.0, ...}
141
+ result["answers"]["urgent"]["noul"] # 0.009
142
+ result["answers"]["importance"]["score"] # 0.64 (mean level, 0–4)
143
+ ```
144
+
145
+ All three questions run in one forward pass. They share the `state` and cannot see each
146
+ other. Label sets are supplied at call time, so you can change them without retraining.
147
+
148
+ These are the actual outputs. Note what they show: `topic` is a label set the model was
149
+ trained on and it is decisive; `urgent` and `importance` are scales invented on the spot
150
+ that it has never seen, and it handles the boolean far better than the ordinal. That is
151
+ the general pattern — `choice` and `noul` transfer to new label sets much more readily
152
+ than `score` does.
153
+
154
+ ### ONNX
155
+
156
+ `onnx/` holds a single-graph export for non-Python deployment: `model.onnx` +
157
+ `model.onnx.data` (fp32) + `tokenizer.json` + `laya_runtime.json` (temperatures, special
158
+ token ids, token budgets) + `golden.json` (13 verification cases).
159
+
160
+ ```python
161
+ import onnxruntime as ort
162
+ sess = ort.InferenceSession("onnx/model.onnx")
163
+ logits = sess.run(None, {"input_ids": ids, "attention_mask": att,
164
+ "marker_pos": pos, "marker_mask": mask, "qtype": qt})[0]
165
+ ```
166
+
167
+ All axes are dynamic; one batch may mix question types and option counts. 28–48 ms per
168
+ item on CPU at batch 16. A non-Python client must reimplement sequence construction —
169
+ see the repo's `docs/ONNX.md` and the Rust reference in `rust/` (published uncompiled —
170
+ see the repo README). Do not use naive int8 dynamic quantization: it costs up to 9
171
+ accuracy points for ~20 % throughput.
172
+
173
+ ## Results
174
+
175
+ Accuracy, and ECE (expected calibration error — lower is better):
176
+
177
+ | benchmark | n | chance | before | **after** | Δ | ECE before → after |
178
+ |---|---|---|---|---|---|---|
179
+ | KLUE-RE (relation, 30-way) | 1000 | 0.033 | 0.136 | **0.705** | **+56.9 pp** | 0.184 → 0.065 |
180
+ | KLUE-YNAT (topic, 7-way) | 1000 | 0.143 | 0.414 | **0.834** | **+42.0 pp** | 0.315 → 0.077 |
181
+ | KLUE-STS (ordinal, 6 levels) | 519 | 0.167 | 0.210 | **0.509** | **+29.9 pp** | 0.120 → 0.188 |
182
+ | AI-Hub culture MC | 900 | 0.367 | 0.373 | **0.628** | **+25.4 pp** | 0.250 → 0.084 |
183
+ | KLUE-NLI (3-way) | 1000 | 0.333 | 0.761 | **0.815** | +5.4 pp | 0.144 → 0.113 |
184
+ | KMMLU (knowledge MC) | 900 | 0.250 | 0.244 | 0.298 | +5.3 pp | 0.203 → 0.253 |
185
+ | *typed-decisions (EN)* | 2000 | 0.318 | 0.350 | **0.725** | +37.5 pp | 0.319 → 0.243 |
186
+ | *JCommonsenseQA (JA)* | 500 | 0.200 | 0.526 | **0.566** | +4.0 pp | 0.025 → 0.084 |
187
+ | *Kev decision-v2 (EN)* | 1440 | 0.300 | 0.585 | 0.572 | −1.4 pp | 0.267 → 0.307 |
188
+ | *MMLU (EN)* | 560 | 0.250 | 0.295 | 0.266 | −2.9 pp | 0.140 → 0.297 |
189
+
190
+ *Italic rows are retention checks, never trained on.* Japanese improved; the only real
191
+ English cost is 1.4 points on Kev decision-v2. English typed-decisions rose because 19 %
192
+ of each training epoch was English replay from that distribution.
193
+
194
+ Two things worth reading carefully:
195
+
196
+ - **The base model was not bad at Korean.** It already solved KLUE-NLI at 0.761. What was
197
+ missing was ordinal judgement (STS 0.210 against a 0.167 floor), high-cardinality
198
+ classification (RE 0.136) and calibration (YNAT ECE 0.315 — confidently wrong).
199
+ - **KMMLU and MMLU are the wrong tool for this model** and are listed only so they are not
200
+ mistaken for a Korean signal. All three upstream Laya checkpoints score 0.24–0.32 on
201
+ MMLU regardless of language: a 322 M encoder has no facts to recall.
202
+
203
+ ## Training
204
+
205
+ | | |
206
+ |---|---|
207
+ | base | `convaiinnovations/laya`, `multilingual` subfolder |
208
+ | objective | upstream RLCD — policy gradient on a strictly proper scoring rule + soft cross-entropy |
209
+ | data | 108,665 typed decisions: 102,665 Korean + 6,000 English replay (oversampled ×4 to ≈ 19 %/epoch) |
210
+ | schedule | 4 epochs, effective batch 64, OneCycle; encoder LR 1e-5, head LR 1e-4 |
211
+ | hardware | one RTX PRO 6000, 19 minutes |
212
+
213
+ Korean data: **KLUE** (CC BY-SA 4.0 — YNAT/NLI/STS/RE `train` splits) plus several
214
+ **AI-Hub** corpora with usable metadata labels. English replay:
215
+ `LocalLLaMA/typed-decisions` (Apache-2.0). The training set is not redistributed; the
216
+ repo's `scripts/traindata.py` rebuilds the public portions.
217
+
218
+ KLUE evaluation uses the `validation` split against `train`-split training, so those rows
219
+ are clean. The AI-Hub culture row excludes its eval items by exact text match but draws
220
+ from the same corpus, so its +25.4 pp is in-domain transfer, not zero-shot.
221
+
222
+ ## Limitations
223
+
224
+ - **Not generative.** No text out.
225
+ - **No world knowledge.** KMMLU 0.298 against a 0.250 floor.
226
+ - **Calibration is Korean-tuned.** Temperatures were fitted on a mixture that is ~81 %
227
+ Korean, which is why English ECE is worse than English accuracy suggests. The repo ships
228
+ `scripts/recalibrate.py` to refit on your own labelled data — one forward pass, no
229
+ weight changes.
230
+ - **Korean-first, and verified in three languages only.** The base covers 100+; the other
231
+ 97 were not measured and may have regressed.
232
+ - **Budget limits.** Instructions + all options must fit in 256 tokens (48 per option);
233
+ `state` takes the rest up to 1024 and is truncated from the right.
234
+ - **`score` is the weakest of the three types.** If an ordinal question can be re-expressed
235
+ as a `choice`, it will usually be more accurate.
236
+
237
+ ## Attribution
238
+
239
+ Built on [Laya](https://huggingface.co/convaiinnovations/laya) by Convai Innovations
240
+ (Apache-2.0), encoder [mmBERT-base](https://huggingface.co/jhu-clsp/mmBERT-base)
241
+ (Apache-2.0). Training recipe follows Laya's own fine-tuning notebook. See `NOTICE` for
242
+ the full list including every evaluation dataset and its license.
243
+
244
+ Licensed Apache-2.0, matching upstream.
encoder/config.json ADDED
@@ -0,0 +1,80 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "architectures": [
3
+ "ModernBertForMaskedLM"
4
+ ],
5
+ "attention_bias": false,
6
+ "attention_dropout": 0.0,
7
+ "bos_token_id": 2,
8
+ "classifier_activation": "gelu",
9
+ "classifier_bias": false,
10
+ "classifier_dropout": 0.0,
11
+ "classifier_pooling": "mean",
12
+ "cls_token_id": 1,
13
+ "decoder_bias": true,
14
+ "deterministic_flash_attn": false,
15
+ "dtype": "float32",
16
+ "embedding_dropout": 0.0,
17
+ "eos_token_id": 1,
18
+ "global_attn_every_n_layers": 3,
19
+ "global_rope_theta": 160000.0,
20
+ "gradient_checkpointing": false,
21
+ "hidden_activation": "gelu",
22
+ "hidden_size": 768,
23
+ "initializer_cutoff_factor": 2.0,
24
+ "initializer_range": 0.02,
25
+ "intermediate_size": 1152,
26
+ "layer_norm_eps": 1e-05,
27
+ "layer_types": [
28
+ "full_attention",
29
+ "sliding_attention",
30
+ "sliding_attention",
31
+ "full_attention",
32
+ "sliding_attention",
33
+ "sliding_attention",
34
+ "full_attention",
35
+ "sliding_attention",
36
+ "sliding_attention",
37
+ "full_attention",
38
+ "sliding_attention",
39
+ "sliding_attention",
40
+ "full_attention",
41
+ "sliding_attention",
42
+ "sliding_attention",
43
+ "full_attention",
44
+ "sliding_attention",
45
+ "sliding_attention",
46
+ "full_attention",
47
+ "sliding_attention",
48
+ "sliding_attention",
49
+ "full_attention"
50
+ ],
51
+ "local_attention": 128,
52
+ "local_rope_theta": 160000.0,
53
+ "mask_token_id": 4,
54
+ "max_position_embeddings": 8192,
55
+ "mlp_bias": false,
56
+ "mlp_dropout": 0.0,
57
+ "model_type": "modernbert",
58
+ "norm_bias": false,
59
+ "norm_eps": 1e-05,
60
+ "num_attention_heads": 12,
61
+ "num_hidden_layers": 22,
62
+ "pad_token_id": 0,
63
+ "position_embedding_type": "sans_pos",
64
+ "repad_logits_with_grad": false,
65
+ "rope_parameters": {
66
+ "full_attention": {
67
+ "rope_theta": 160000,
68
+ "rope_type": "default"
69
+ },
70
+ "sliding_attention": {
71
+ "rope_theta": 160000,
72
+ "rope_type": "default"
73
+ }
74
+ },
75
+ "sep_token_id": 1,
76
+ "sparse_pred_ignore_index": -100,
77
+ "sparse_prediction": false,
78
+ "transformers_version": "4.57.6",
79
+ "vocab_size": 256000
80
+ }
model.safetensors ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ea56eecb5211c2be8119f26b989508591f3c6b02267d96c4557af0ec1cee21c6
3
+ size 643835524
onnx/golden.json ADDED
@@ -0,0 +1,2472 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "model": "laya-ko",
3
+ "onnx": "model.onnx",
4
+ "note": "probabilities produced by onnxruntime CPU fp32; compare with atol=1e-4",
5
+ "cases": [
6
+ {
7
+ "bench": "klue_ynat",
8
+ "qtype": "choice",
9
+ "instructions": "다음 뉴스 제목의 주제 분야를 고르세요.",
10
+ "criteria": [
11
+ [
12
+ "IT과학",
13
+ "정보기술·과학 기사"
14
+ ],
15
+ [
16
+ "경제",
17
+ "경제·금융·산업 기사"
18
+ ],
19
+ [
20
+ "사회",
21
+ "사회·사건사고 기사"
22
+ ],
23
+ [
24
+ "생활문화",
25
+ "생활·문화·연예 기사"
26
+ ],
27
+ [
28
+ "세계",
29
+ "국제·해외 기사"
30
+ ],
31
+ [
32
+ "스포츠",
33
+ "스포츠 기사"
34
+ ],
35
+ [
36
+ "정치",
37
+ "정치·외교 기사"
38
+ ]
39
+ ],
40
+ "state": "해양 인문학자가 살핀 어시장 풍경과 물고기 표정",
41
+ "expect": {
42
+ "n_tokens": 125,
43
+ "input_ids_head": [
44
+ 2,
45
+ 6241,
46
+ 2872,
47
+ 235292,
48
+ 115049,
49
+ 182303,
50
+ 31850,
51
+ 238743,
52
+ 236137,
53
+ 40712,
54
+ 236939,
55
+ 70754,
56
+ 238305,
57
+ 236791,
58
+ 46749,
59
+ 238500,
60
+ 96673,
61
+ 235265,
62
+ 1,
63
+ 4,
64
+ 6349,
65
+ 237233,
66
+ 237834,
67
+ 235292
68
+ ],
69
+ "input_ids_tail": [
70
+ 237392,
71
+ 237233,
72
+ 108321,
73
+ 236464,
74
+ 236386,
75
+ 100280,
76
+ 236864,
77
+ 1
78
+ ],
79
+ "input_ids_sha": "edacf2af1e62d8fd",
80
+ "markers": [
81
+ 19,
82
+ 32,
83
+ 46,
84
+ 57,
85
+ 73,
86
+ 83,
87
+ 93
88
+ ],
89
+ "temperature": 0.9881007075309753,
90
+ "probabilities": [
91
+ 0.190709,
92
+ 0.001237,
93
+ 0.033075,
94
+ 0.754056,
95
+ 0.020856,
96
+ 4.7e-05,
97
+ 2.1e-05
98
+ ]
99
+ }
100
+ },
101
+ {
102
+ "bench": "klue_ynat",
103
+ "qtype": "choice",
104
+ "instructions": "다음 뉴스 제목의 주제 분야를 고르세요.",
105
+ "criteria": [
106
+ [
107
+ "IT과학",
108
+ "정보기술·과학 기사"
109
+ ],
110
+ [
111
+ "경제",
112
+ "경제·금융·산업 기사"
113
+ ],
114
+ [
115
+ "사회",
116
+ "사회·사건사고 기사"
117
+ ],
118
+ [
119
+ "생활문화",
120
+ "생활·문화·연예 기사"
121
+ ],
122
+ [
123
+ "세계",
124
+ "국제·해외 기사"
125
+ ],
126
+ [
127
+ "스포츠",
128
+ "스포츠 기사"
129
+ ],
130
+ [
131
+ "정치",
132
+ "정치·외교 기사"
133
+ ]
134
+ ],
135
+ "state": "2021년도 최저임금 심의 참석하는 류기정이동호",
136
+ "expect": {
137
+ "n_tokens": 129,
138
+ "input_ids_head": [
139
+ 2,
140
+ 6241,
141
+ 2872,
142
+ 235292,
143
+ 115049,
144
+ 182303,
145
+ 31850,
146
+ 238743,
147
+ 236137,
148
+ 40712,
149
+ 236939,
150
+ 70754,
151
+ 238305,
152
+ 236791,
153
+ 46749,
154
+ 238500,
155
+ 96673,
156
+ 235265,
157
+ 1,
158
+ 4,
159
+ 6349,
160
+ 237233,
161
+ 237834,
162
+ 235292
163
+ ],
164
+ "input_ids_tail": [
165
+ 235248,
166
+ 239758,
167
+ 236386,
168
+ 236864,
169
+ 235832,
170
+ 237358,
171
+ 238033,
172
+ 1
173
+ ],
174
+ "input_ids_sha": "0b98d19503732385",
175
+ "markers": [
176
+ 19,
177
+ 32,
178
+ 46,
179
+ 57,
180
+ 73,
181
+ 83,
182
+ 93
183
+ ],
184
+ "temperature": 0.9881007075309753,
185
+ "probabilities": [
186
+ 8e-05,
187
+ 0.062527,
188
+ 0.773379,
189
+ 0.008202,
190
+ 0.003551,
191
+ 0.000678,
192
+ 0.151583
193
+ ]
194
+ }
195
+ },
196
+ {
197
+ "bench": "klue_nli",
198
+ "qtype": "choice",
199
+ "instructions": "전제에 대해 가설이 갖는 논리적 관계를 판정하세요.",
200
+ "criteria": [
201
+ [
202
+ "entailment",
203
+ "가설이 전제로부터 반드시 참이다 (함의)"
204
+ ],
205
+ [
206
+ "neutral",
207
+ "가설이 전제로부터 참인지 거짓인지 알 수 없다 (중립)"
208
+ ],
209
+ [
210
+ "contradiction",
211
+ "가설이 전제와 모순된다 (모순)"
212
+ ]
213
+ ],
214
+ "state": "전제: 침실은 두개이고 최대4인이 숙박가능합니다.\n가설: 방은 2개입니다.",
215
+ "expect": {
216
+ "n_tokens": 121,
217
+ "input_ids_head": [
218
+ 2,
219
+ 6241,
220
+ 2872,
221
+ 235292,
222
+ 31087,
223
+ 236939,
224
+ 236179,
225
+ 142192,
226
+ 23248,
227
+ 238551,
228
+ 235832,
229
+ 235248,
230
+ 243165,
231
+ 236214,
232
+ 225252,
233
+ 236432,
234
+ 237603,
235
+ 217761,
236
+ 236791,
237
+ 135101,
238
+ 236864,
239
+ 204551,
240
+ 235265,
241
+ 1
242
+ ],
243
+ "input_ids_tail": [
244
+ 51806,
245
+ 236648,
246
+ 235248,
247
+ 235284,
248
+ 237936,
249
+ 47555,
250
+ 235265,
251
+ 1
252
+ ],
253
+ "input_ids_sha": "6f6872b5cadbc10e",
254
+ "markers": [
255
+ 24,
256
+ 44,
257
+ 69
258
+ ],
259
+ "temperature": 1.1276466846466064,
260
+ "probabilities": [
261
+ 0.036086,
262
+ 0.30528,
263
+ 0.658634
264
+ ]
265
+ }
266
+ },
267
+ {
268
+ "bench": "klue_nli",
269
+ "qtype": "choice",
270
+ "instructions": "전제에 대해 가설이 갖는 논리적 관계를 판정하세요.",
271
+ "criteria": [
272
+ [
273
+ "entailment",
274
+ "가설이 전제로부터 반드시 참이다 (함의)"
275
+ ],
276
+ [
277
+ "neutral",
278
+ "가설이 전제로부터 참인지 거짓인지 알 수 없다 (중립)"
279
+ ],
280
+ [
281
+ "contradiction",
282
+ "가설이 전제와 모순된다 (모순)"
283
+ ]
284
+ ],
285
+ "state": "전제: 게임이 자동으로 라이브러리에 등록된다.\n가설: 음악도 자동으로 라이브러리에 등록된다.",
286
+ "expect": {
287
+ "n_tokens": 122,
288
+ "input_ids_head": [
289
+ 2,
290
+ 6241,
291
+ 2872,
292
+ 235292,
293
+ 31087,
294
+ 236939,
295
+ 236179,
296
+ 142192,
297
+ 23248,
298
+ 238551,
299
+ 235832,
300
+ 235248,
301
+ 243165,
302
+ 236214,
303
+ 225252,
304
+ 236432,
305
+ 237603,
306
+ 217761,
307
+ 236791,
308
+ 135101,
309
+ 236864,
310
+ 204551,
311
+ 235265,
312
+ 1
313
+ ],
314
+ "input_ids_tail": [
315
+ 237822,
316
+ 236432,
317
+ 236179,
318
+ 194174,
319
+ 238602,
320
+ 236039,
321
+ 235265,
322
+ 1
323
+ ],
324
+ "input_ids_sha": "e24b533ed9b311ff",
325
+ "markers": [
326
+ 24,
327
+ 44,
328
+ 69
329
+ ],
330
+ "temperature": 1.1276466846466064,
331
+ "probabilities": [
332
+ 0.00141,
333
+ 0.996401,
334
+ 0.00219
335
+ ]
336
+ }
337
+ },
338
+ {
339
+ "bench": "klue_sts",
340
+ "qtype": "score",
341
+ "instructions": "두 문장의 의미적 유사도를 0~5 단계로 판정하세요.",
342
+ "criteria": [
343
+ [
344
+ "전혀 관련 없다",
345
+ null
346
+ ],
347
+ [
348
+ "주제만 약간 겹친다",
349
+ null
350
+ ],
351
+ [
352
+ "부분적으로 유사하다",
353
+ null
354
+ ],
355
+ [
356
+ "대체로 같은 내용이다",
357
+ null
358
+ ],
359
+ [
360
+ "거의 같은 내용이다",
361
+ null
362
+ ],
363
+ [
364
+ "의미가 완전히 같다",
365
+ null
366
+ ]
367
+ ],
368
+ "state": "문장1: 제사 시간에 늦으면 일 하나도 도와드리지 못하니까 늦지 마라.\n문장2: 집안 어른들께 혼나기 싫으면 제사 시간 늦지 마.",
369
+ "expect": {
370
+ "n_tokens": 149,
371
+ "input_ids_head": [
372
+ 2,
373
+ 7716,
374
+ 2872,
375
+ 235292,
376
+ 93828,
377
+ 45980,
378
+ 237199,
379
+ 236137,
380
+ 223616,
381
+ 237603,
382
+ 46355,
383
+ 236417,
384
+ 236840,
385
+ 236791,
386
+ 235248,
387
+ 235276,
388
+ 235436,
389
+ 235308,
390
+ 80289,
391
+ 238002,
392
+ 236375,
393
+ 135101,
394
+ 236864,
395
+ 204551
396
+ ],
397
+ "input_ids_tail": [
398
+ 236417,
399
+ 118058,
400
+ 235248,
401
+ 246759,
402
+ 236183,
403
+ 41645,
404
+ 235265,
405
+ 1
406
+ ],
407
+ "input_ids_sha": "d6ef4d311d14e7da",
408
+ "markers": [
409
+ 26,
410
+ 36,
411
+ 50,
412
+ 61,
413
+ 72,
414
+ 82
415
+ ],
416
+ "temperature": 1.3670761585235596,
417
+ "probabilities": [
418
+ 1.5e-05,
419
+ 0.026274,
420
+ 0.579093,
421
+ 0.390146,
422
+ 0.004465,
423
+ 7e-06
424
+ ]
425
+ }
426
+ },
427
+ {
428
+ "bench": "klue_sts",
429
+ "qtype": "score",
430
+ "instructions": "두 문장의 의미적 유사도를 0~5 단계로 판정하세요.",
431
+ "criteria": [
432
+ [
433
+ "전혀 관련 없다",
434
+ null
435
+ ],
436
+ [
437
+ "주제만 약간 겹친다",
438
+ null
439
+ ],
440
+ [
441
+ "부분적으로 유사하다",
442
+ null
443
+ ],
444
+ [
445
+ "대체로 같은 내용이다",
446
+ null
447
+ ],
448
+ [
449
+ "거의 같은 내용이다",
450
+ null
451
+ ],
452
+ [
453
+ "의미가 완전히 같다",
454
+ null
455
+ ]
456
+ ],
457
+ "state": "문장1: 그리고 관광하기에 교통이 참 좋았습니다\n문장2: 에어비앤비 위치도 관광하기에 매우 좋았습니다",
458
+ "expect": {
459
+ "n_tokens": 131,
460
+ "input_ids_head": [
461
+ 2,
462
+ 7716,
463
+ 2872,
464
+ 235292,
465
+ 93828,
466
+ 45980,
467
+ 237199,
468
+ 236137,
469
+ 223616,
470
+ 237603,
471
+ 46355,
472
+ 236417,
473
+ 236840,
474
+ 236791,
475
+ 235248,
476
+ 235276,
477
+ 235436,
478
+ 235308,
479
+ 80289,
480
+ 238002,
481
+ 236375,
482
+ 135101,
483
+ 236864,
484
+ 204551
485
+ ],
486
+ "input_ids_tail": [
487
+ 239830,
488
+ 72159,
489
+ 236179,
490
+ 195531,
491
+ 106509,
492
+ 239985,
493
+ 21743,
494
+ 1
495
+ ],
496
+ "input_ids_sha": "3f7d80283d61c0b4",
497
+ "markers": [
498
+ 26,
499
+ 36,
500
+ 50,
501
+ 61,
502
+ 72,
503
+ 82
504
+ ],
505
+ "temperature": 1.3670761585235596,
506
+ "probabilities": [
507
+ 0.0003,
508
+ 0.094645,
509
+ 0.747541,
510
+ 0.152313,
511
+ 0.00518,
512
+ 2e-05
513
+ ]
514
+ }
515
+ },
516
+ {
517
+ "bench": "klue_re",
518
+ "qtype": "choice",
519
+ "instructions": "두 개체 사이의 관계를 고르세요.",
520
+ "criteria": [
521
+ [
522
+ "no_relation",
523
+ null
524
+ ],
525
+ [
526
+ "org:dissolved",
527
+ null
528
+ ],
529
+ [
530
+ "org:founded",
531
+ null
532
+ ],
533
+ [
534
+ "org:place_of_headquarters",
535
+ null
536
+ ],
537
+ [
538
+ "org:alternate_names",
539
+ null
540
+ ],
541
+ [
542
+ "org:member_of",
543
+ null
544
+ ],
545
+ [
546
+ "org:members",
547
+ null
548
+ ],
549
+ [
550
+ "org:political/religious_affiliation",
551
+ null
552
+ ],
553
+ [
554
+ "org:product",
555
+ null
556
+ ],
557
+ [
558
+ "org:founded_by",
559
+ null
560
+ ],
561
+ [
562
+ "org:top_members/employees",
563
+ null
564
+ ],
565
+ [
566
+ "org:number_of_employees/members",
567
+ null
568
+ ],
569
+ [
570
+ "per:date_of_birth",
571
+ null
572
+ ],
573
+ [
574
+ "per:date_of_death",
575
+ null
576
+ ],
577
+ [
578
+ "per:place_of_birth",
579
+ null
580
+ ],
581
+ [
582
+ "per:place_of_death",
583
+ null
584
+ ],
585
+ [
586
+ "per:place_of_residence",
587
+ null
588
+ ],
589
+ [
590
+ "per:origin",
591
+ null
592
+ ],
593
+ [
594
+ "per:employee_of",
595
+ null
596
+ ],
597
+ [
598
+ "per:schools_attended",
599
+ null
600
+ ],
601
+ [
602
+ "per:alternate_names",
603
+ null
604
+ ],
605
+ [
606
+ "per:parents",
607
+ null
608
+ ],
609
+ [
610
+ "per:children",
611
+ null
612
+ ],
613
+ [
614
+ "per:siblings",
615
+ null
616
+ ],
617
+ [
618
+ "per:spouse",
619
+ null
620
+ ],
621
+ [
622
+ "per:other_family",
623
+ null
624
+ ],
625
+ [
626
+ "per:colleagues",
627
+ null
628
+ ],
629
+ [
630
+ "per:product",
631
+ null
632
+ ],
633
+ [
634
+ "per:religion",
635
+ null
636
+ ],
637
+ [
638
+ "per:title",
639
+ null
640
+ ]
641
+ ],
642
+ "state": "문장: 박상원 연구원은 “수익성은 시장 전망치보다 낮을 것으로 예상되는데, 이는 세타2 엔진에 대한 미국 소송 일부 건들의 합의로 3000억원의 품질비용이 발생했기 때문”이라고 덧붙였다.\n주어 개체: 박상원 (PER)\n목적 개체: 연구원 (POH)",
643
+ "expect": {
644
+ "n_tokens": 292,
645
+ "input_ids_head": [
646
+ 2,
647
+ 6241,
648
+ 2872,
649
+ 235292,
650
+ 93828,
651
+ 49532,
652
+ 238308,
653
+ 160590,
654
+ 236137,
655
+ 217761,
656
+ 236791,
657
+ 46749,
658
+ 238500,
659
+ 96673,
660
+ 235265,
661
+ 1,
662
+ 4,
663
+ 793,
664
+ 235298,
665
+ 46596,
666
+ 4,
667
+ 2401,
668
+ 235292,
669
+ 107738
670
+ ],
671
+ "input_ids_tail": [
672
+ 235292,
673
+ 195363,
674
+ 237399,
675
+ 591,
676
+ 3616,
677
+ 235314,
678
+ 235275,
679
+ 1
680
+ ],
681
+ "input_ids_sha": "04b8ed4b12801624",
682
+ "markers": [
683
+ 16,
684
+ 20,
685
+ 25,
686
+ 29,
687
+ 38,
688
+ 44,
689
+ 50,
690
+ 54,
691
+ 62,
692
+ 66,
693
+ 72,
694
+ 80,
695
+ 90,
696
+ 98,
697
+ 106,
698
+ 114,
699
+ 122,
700
+ 130,
701
+ 134,
702
+ 140,
703
+ 146,
704
+ 152,
705
+ 156,
706
+ 160,
707
+ 164,
708
+ 168,
709
+ 174,
710
+ 179,
711
+ 183,
712
+ 187
713
+ ],
714
+ "temperature": 1.1596827507019043,
715
+ "probabilities": [
716
+ 2e-06,
717
+ 0.0,
718
+ 0.0,
719
+ 0.0,
720
+ 1e-06,
721
+ 0.0,
722
+ 0.0,
723
+ 0.0,
724
+ 5e-06,
725
+ 1e-06,
726
+ 0.0,
727
+ 0.0,
728
+ 0.0,
729
+ 0.0,
730
+ 0.0,
731
+ 0.0,
732
+ 1e-06,
733
+ 2e-06,
734
+ 0.000801,
735
+ 3.8e-05,
736
+ 0.00057,
737
+ 0.0,
738
+ 0.0,
739
+ 0.0,
740
+ 0.0,
741
+ 0.0,
742
+ 0.0,
743
+ 0.0003,
744
+ 0.0,
745
+ 0.998277
746
+ ]
747
+ }
748
+ },
749
+ {
750
+ "bench": "klue_re",
751
+ "qtype": "choice",
752
+ "instructions": "두 개체 사이의 관계를 고르세요.",
753
+ "criteria": [
754
+ [
755
+ "no_relation",
756
+ null
757
+ ],
758
+ [
759
+ "org:dissolved",
760
+ null
761
+ ],
762
+ [
763
+ "org:founded",
764
+ null
765
+ ],
766
+ [
767
+ "org:place_of_headquarters",
768
+ null
769
+ ],
770
+ [
771
+ "org:alternate_names",
772
+ null
773
+ ],
774
+ [
775
+ "org:member_of",
776
+ null
777
+ ],
778
+ [
779
+ "org:members",
780
+ null
781
+ ],
782
+ [
783
+ "org:political/religious_affiliation",
784
+ null
785
+ ],
786
+ [
787
+ "org:product",
788
+ null
789
+ ],
790
+ [
791
+ "org:founded_by",
792
+ null
793
+ ],
794
+ [
795
+ "org:top_members/employees",
796
+ null
797
+ ],
798
+ [
799
+ "org:number_of_employees/members",
800
+ null
801
+ ],
802
+ [
803
+ "per:date_of_birth",
804
+ null
805
+ ],
806
+ [
807
+ "per:date_of_death",
808
+ null
809
+ ],
810
+ [
811
+ "per:place_of_birth",
812
+ null
813
+ ],
814
+ [
815
+ "per:place_of_death",
816
+ null
817
+ ],
818
+ [
819
+ "per:place_of_residence",
820
+ null
821
+ ],
822
+ [
823
+ "per:origin",
824
+ null
825
+ ],
826
+ [
827
+ "per:employee_of",
828
+ null
829
+ ],
830
+ [
831
+ "per:schools_attended",
832
+ null
833
+ ],
834
+ [
835
+ "per:alternate_names",
836
+ null
837
+ ],
838
+ [
839
+ "per:parents",
840
+ null
841
+ ],
842
+ [
843
+ "per:children",
844
+ null
845
+ ],
846
+ [
847
+ "per:siblings",
848
+ null
849
+ ],
850
+ [
851
+ "per:spouse",
852
+ null
853
+ ],
854
+ [
855
+ "per:other_family",
856
+ null
857
+ ],
858
+ [
859
+ "per:colleagues",
860
+ null
861
+ ],
862
+ [
863
+ "per:product",
864
+ null
865
+ ],
866
+ [
867
+ "per:religion",
868
+ null
869
+ ],
870
+ [
871
+ "per:title",
872
+ null
873
+ ]
874
+ ],
875
+ "state": "문장: 한편 마마무의 노래 '힙(HIP)'의 가사가 뜨거운 관심을 받고 있다.\n주어 개체: 마마무 (PER)\n목적 개체: 힙 (POH)",
876
+ "expect": {
877
+ "n_tokens": 248,
878
+ "input_ids_head": [
879
+ 2,
880
+ 6241,
881
+ 2872,
882
+ 235292,
883
+ 93828,
884
+ 49532,
885
+ 238308,
886
+ 160590,
887
+ 236137,
888
+ 217761,
889
+ 236791,
890
+ 46749,
891
+ 238500,
892
+ 96673,
893
+ 235265,
894
+ 1,
895
+ 4,
896
+ 793,
897
+ 235298,
898
+ 46596,
899
+ 4,
900
+ 2401,
901
+ 235292,
902
+ 107738
903
+ ],
904
+ "input_ids_tail": [
905
+ 235292,
906
+ 235248,
907
+ 246681,
908
+ 591,
909
+ 3616,
910
+ 235314,
911
+ 235275,
912
+ 1
913
+ ],
914
+ "input_ids_sha": "d1e362cfaa8f218a",
915
+ "markers": [
916
+ 16,
917
+ 20,
918
+ 25,
919
+ 29,
920
+ 38,
921
+ 44,
922
+ 50,
923
+ 54,
924
+ 62,
925
+ 66,
926
+ 72,
927
+ 80,
928
+ 90,
929
+ 98,
930
+ 106,
931
+ 114,
932
+ 122,
933
+ 130,
934
+ 134,
935
+ 140,
936
+ 146,
937
+ 152,
938
+ 156,
939
+ 160,
940
+ 164,
941
+ 168,
942
+ 174,
943
+ 179,
944
+ 183,
945
+ 187
946
+ ],
947
+ "temperature": 1.1596827507019043,
948
+ "probabilities": [
949
+ 0.336093,
950
+ 1.7e-05,
951
+ 0.000849,
952
+ 6e-06,
953
+ 0.002885,
954
+ 0.000487,
955
+ 6.2e-05,
956
+ 3e-06,
957
+ 0.013615,
958
+ 0.001877,
959
+ 1e-05,
960
+ 5e-06,
961
+ 2e-06,
962
+ 2e-06,
963
+ 2e-06,
964
+ 2e-06,
965
+ 0.001062,
966
+ 0.008488,
967
+ 0.361127,
968
+ 0.000859,
969
+ 0.19499,
970
+ 2e-06,
971
+ 2e-06,
972
+ 2e-06,
973
+ 3e-06,
974
+ 2e-06,
975
+ 5e-06,
976
+ 0.03977,
977
+ 2e-06,
978
+ 0.037767
979
+ ]
980
+ }
981
+ },
982
+ {
983
+ "bench": "ja_jcqa",
984
+ "qtype": "choice",
985
+ "instructions": "次の質問に対する最も適切な答えを選択肢から選んでください。",
986
+ "criteria": [
987
+ [
988
+ "A",
989
+ "ピクルス"
990
+ ],
991
+ [
992
+ "B",
993
+ "お子様ランチ"
994
+ ],
995
+ [
996
+ "C",
997
+ "ビール"
998
+ ],
999
+ [
1000
+ "D",
1001
+ "肉"
1002
+ ],
1003
+ [
1004
+ "E",
1005
+ "キッザニア"
1006
+ ]
1007
+ ],
1008
+ "state": "子供向けのメニューは?",
1009
+ "expect": {
1010
+ "n_tokens": 54,
1011
+ "input_ids_head": [
1012
+ 2,
1013
+ 6241,
1014
+ 2872,
1015
+ 235292,
1016
+ 47764,
1017
+ 235372,
1018
+ 55237,
1019
+ 86323,
1020
+ 77405,
1021
+ 165091,
1022
+ 235414,
1023
+ 87270,
1024
+ 81927,
1025
+ 239984,
1026
+ 3548,
1027
+ 236267,
1028
+ 13359,
1029
+ 13319,
1030
+ 235362,
1031
+ 1,
1032
+ 4,
1033
+ 586,
1034
+ 235292,
1035
+ 27686
1036
+ ],
1037
+ "input_ids_tail": [
1038
+ 236290,
1039
+ 39021,
1040
+ 1,
1041
+ 74336,
1042
+ 213281,
1043
+ 233269,
1044
+ 235544,
1045
+ 1
1046
+ ],
1047
+ "input_ids_sha": "1ee3adbfb3d6fa32",
1048
+ "markers": [
1049
+ 20,
1050
+ 26,
1051
+ 33,
1052
+ 37,
1053
+ 41
1054
+ ],
1055
+ "temperature": 1.1276466846466064,
1056
+ "probabilities": [
1057
+ 0.202294,
1058
+ 0.776378,
1059
+ 0.005598,
1060
+ 0.004132,
1061
+ 0.011598
1062
+ ]
1063
+ }
1064
+ },
1065
+ {
1066
+ "bench": "ja_jcqa",
1067
+ "qtype": "choice",
1068
+ "instructions": "次の質問に対する最も適切な答えを選択肢から選んでください。",
1069
+ "criteria": [
1070
+ [
1071
+ "A",
1072
+ "アパート"
1073
+ ],
1074
+ [
1075
+ "B",
1076
+ "別荘"
1077
+ ],
1078
+ [
1079
+ "C",
1080
+ "家庭"
1081
+ ],
1082
+ [
1083
+ "D",
1084
+ "お家"
1085
+ ],
1086
+ [
1087
+ "E",
1088
+ "コテージ"
1089
+ ]
1090
+ ],
1091
+ "state": "マンションより小さい借りる部屋は?",
1092
+ "expect": {
1093
+ "n_tokens": 55,
1094
+ "input_ids_head": [
1095
+ 2,
1096
+ 6241,
1097
+ 2872,
1098
+ 235292,
1099
+ 47764,
1100
+ 235372,
1101
+ 55237,
1102
+ 86323,
1103
+ 77405,
1104
+ 165091,
1105
+ 235414,
1106
+ 87270,
1107
+ 81927,
1108
+ 239984,
1109
+ 3548,
1110
+ 236267,
1111
+ 13359,
1112
+ 13319,
1113
+ 235362,
1114
+ 1,
1115
+ 4,
1116
+ 586,
1117
+ 235292,
1118
+ 7621
1119
+ ],
1120
+ "input_ids_tail": [
1121
+ 9558,
1122
+ 82906,
1123
+ 112888,
1124
+ 235423,
1125
+ 42096,
1126
+ 235418,
1127
+ 235544,
1128
+ 1
1129
+ ],
1130
+ "input_ids_sha": "c15481e2cd13d5a3",
1131
+ "markers": [
1132
+ 20,
1133
+ 25,
1134
+ 30,
1135
+ 34,
1136
+ 39
1137
+ ],
1138
+ "temperature": 1.1276466846466064,
1139
+ "probabilities": [
1140
+ 0.55311,
1141
+ 0.114955,
1142
+ 0.099146,
1143
+ 0.142372,
1144
+ 0.090416
1145
+ ]
1146
+ }
1147
+ },
1148
+ {
1149
+ "bench": "en_kev_v2",
1150
+ "qtype": "choice",
1151
+ "instructions": "Which banking intent best describes this customer message?",
1152
+ "criteria": [
1153
+ [
1154
+ "activate_my_card",
1155
+ null
1156
+ ],
1157
+ [
1158
+ "age_limit",
1159
+ null
1160
+ ],
1161
+ [
1162
+ "apple_pay_or_google_pay",
1163
+ null
1164
+ ],
1165
+ [
1166
+ "atm_support",
1167
+ null
1168
+ ],
1169
+ [
1170
+ "automatic_top_up",
1171
+ null
1172
+ ],
1173
+ [
1174
+ "balance_not_updated_after_bank_transfer",
1175
+ "Customer asks about balance not updated after bank transfer"
1176
+ ],
1177
+ [
1178
+ "balance_not_updated_after_cheque_or_cash_deposit",
1179
+ "Customer asks about balance not updated after cheque or cash deposit"
1180
+ ],
1181
+ [
1182
+ "beneficiary_not_allowed",
1183
+ "Customer asks about beneficiary not allowed"
1184
+ ],
1185
+ [
1186
+ "cancel_transfer",
1187
+ "Customer asks about cancel transfer"
1188
+ ],
1189
+ [
1190
+ "card_about_to_expire",
1191
+ null
1192
+ ],
1193
+ [
1194
+ "card_acceptance",
1195
+ null
1196
+ ],
1197
+ [
1198
+ "card_arrival",
1199
+ "Customer asks about card arrival"
1200
+ ],
1201
+ [
1202
+ "card_delivery_estimate",
1203
+ "Customer asks about card delivery estimate"
1204
+ ],
1205
+ [
1206
+ "card_linking",
1207
+ null
1208
+ ],
1209
+ [
1210
+ "card_not_working",
1211
+ "Customer asks about card not working"
1212
+ ],
1213
+ [
1214
+ "card_payment_fee_charged",
1215
+ null
1216
+ ],
1217
+ [
1218
+ "card_payment_not_recognised",
1219
+ null
1220
+ ],
1221
+ [
1222
+ "card_payment_wrong_exchange_rate",
1223
+ null
1224
+ ],
1225
+ [
1226
+ "card_swallowed",
1227
+ "Customer asks about card swallowed"
1228
+ ],
1229
+ [
1230
+ "cash_withdrawal_charge",
1231
+ "Customer asks about cash withdrawal charge"
1232
+ ],
1233
+ [
1234
+ "cash_withdrawal_not_recognised",
1235
+ null
1236
+ ],
1237
+ [
1238
+ "change_pin",
1239
+ null
1240
+ ],
1241
+ [
1242
+ "compromised_card",
1243
+ null
1244
+ ],
1245
+ [
1246
+ "contactless_not_working",
1247
+ null
1248
+ ],
1249
+ [
1250
+ "country_support",
1251
+ "Customer asks about country support"
1252
+ ],
1253
+ [
1254
+ "declined_card_payment",
1255
+ "Customer asks about declined card payment"
1256
+ ],
1257
+ [
1258
+ "declined_cash_withdrawal",
1259
+ "Customer asks about declined cash withdrawal"
1260
+ ],
1261
+ [
1262
+ "declined_transfer",
1263
+ null
1264
+ ],
1265
+ [
1266
+ "direct_debit_payment_not_recognised",
1267
+ null
1268
+ ],
1269
+ [
1270
+ "disposable_card_limits",
1271
+ "Customer asks about disposable card limits"
1272
+ ],
1273
+ [
1274
+ "edit_personal_details",
1275
+ "Customer asks about edit personal details"
1276
+ ],
1277
+ [
1278
+ "exchange_charge",
1279
+ "Customer asks about exchange charge"
1280
+ ],
1281
+ [
1282
+ "exchange_rate",
1283
+ null
1284
+ ],
1285
+ [
1286
+ "exchange_via_app",
1287
+ null
1288
+ ],
1289
+ [
1290
+ "extra_charge_on_statement",
1291
+ "Customer asks about extra charge on statement"
1292
+ ],
1293
+ [
1294
+ "failed_transfer",
1295
+ null
1296
+ ],
1297
+ [
1298
+ "fiat_currency_support",
1299
+ "Customer asks about fiat currency support"
1300
+ ],
1301
+ [
1302
+ "get_disposable_virtual_card",
1303
+ null
1304
+ ],
1305
+ [
1306
+ "get_physical_card",
1307
+ "Customer asks about get physical card"
1308
+ ],
1309
+ [
1310
+ "getting_spare_card",
1311
+ "Customer asks about getting spare card"
1312
+ ],
1313
+ [
1314
+ "getting_virtual_card",
1315
+ null
1316
+ ],
1317
+ [
1318
+ "lost_or_stolen_card",
1319
+ "Customer asks about lost or stolen card"
1320
+ ],
1321
+ [
1322
+ "lost_or_stolen_phone",
1323
+ "Customer asks about lost or stolen phone"
1324
+ ],
1325
+ [
1326
+ "order_physical_card",
1327
+ null
1328
+ ],
1329
+ [
1330
+ "passcode_forgotten",
1331
+ "Customer asks about passcode forgotten"
1332
+ ],
1333
+ [
1334
+ "pending_card_payment",
1335
+ null
1336
+ ],
1337
+ [
1338
+ "pending_cash_withdrawal",
1339
+ null
1340
+ ],
1341
+ [
1342
+ "pending_top_up",
1343
+ "Customer asks about pending top up"
1344
+ ],
1345
+ [
1346
+ "pending_transfer",
1347
+ "Customer asks about pending transfer"
1348
+ ],
1349
+ [
1350
+ "pin_blocked",
1351
+ "Customer asks about pin blocked"
1352
+ ],
1353
+ [
1354
+ "receiving_money",
1355
+ "Customer asks about receiving money"
1356
+ ],
1357
+ [
1358
+ "Refund_not_showing_up",
1359
+ null
1360
+ ],
1361
+ [
1362
+ "request_refund",
1363
+ "Customer asks about request refund"
1364
+ ],
1365
+ [
1366
+ "reverted_card_payment?",
1367
+ null
1368
+ ],
1369
+ [
1370
+ "supported_cards_and_currencies",
1371
+ null
1372
+ ],
1373
+ [
1374
+ "terminate_account",
1375
+ null
1376
+ ],
1377
+ [
1378
+ "top_up_by_bank_transfer_charge",
1379
+ "Customer asks about top up by bank transfer charge"
1380
+ ],
1381
+ [
1382
+ "top_up_by_card_charge",
1383
+ "Customer asks about top up by card charge"
1384
+ ],
1385
+ [
1386
+ "top_up_by_cash_or_cheque",
1387
+ "Customer asks about top up by cash or cheque"
1388
+ ],
1389
+ [
1390
+ "top_up_failed",
1391
+ "Customer asks about top up failed"
1392
+ ],
1393
+ [
1394
+ "top_up_limits",
1395
+ null
1396
+ ],
1397
+ [
1398
+ "top_up_reverted",
1399
+ "Customer asks about top up reverted"
1400
+ ],
1401
+ [
1402
+ "topping_up_by_card",
1403
+ "Customer asks about topping up by card"
1404
+ ],
1405
+ [
1406
+ "transaction_charged_twice",
1407
+ null
1408
+ ],
1409
+ [
1410
+ "transfer_fee_charged",
1411
+ null
1412
+ ],
1413
+ [
1414
+ "transfer_into_account",
1415
+ null
1416
+ ],
1417
+ [
1418
+ "transfer_not_received_by_recipient",
1419
+ "Customer asks about transfer not received by recipient"
1420
+ ],
1421
+ [
1422
+ "transfer_timing",
1423
+ "Customer asks about transfer timing"
1424
+ ],
1425
+ [
1426
+ "unable_to_verify_identity",
1427
+ null
1428
+ ],
1429
+ [
1430
+ "verify_my_identity",
1431
+ null
1432
+ ],
1433
+ [
1434
+ "verify_source_of_funds",
1435
+ "Customer asks about verify source of funds"
1436
+ ],
1437
+ [
1438
+ "verify_top_up",
1439
+ "Customer asks about verify top up"
1440
+ ],
1441
+ [
1442
+ "virtual_card_not_working",
1443
+ "Customer asks about virtual card not working"
1444
+ ],
1445
+ [
1446
+ "visa_or_mastercard",
1447
+ "Customer asks about visa or mastercard"
1448
+ ],
1449
+ [
1450
+ "why_verify_identity",
1451
+ null
1452
+ ],
1453
+ [
1454
+ "wrong_amount_of_cash_received",
1455
+ null
1456
+ ],
1457
+ [
1458
+ "wrong_exchange_rate_for_cash_withdrawal",
1459
+ null
1460
+ ]
1461
+ ],
1462
+ "state": "It's been two weeks, why has the transaction for $1.00 not been reversed?",
1463
+ "expect": {
1464
+ "n_tokens": 341,
1465
+ "input_ids_head": [
1466
+ 2,
1467
+ 6241,
1468
+ 2872,
1469
+ 235292,
1470
+ 12236,
1471
+ 25795,
1472
+ 13503,
1473
+ 1963,
1474
+ 19306,
1475
+ 1,
1476
+ 4,
1477
+ 33773,
1478
+ 235298,
1479
+ 1723,
1480
+ 4,
1481
+ 3911,
1482
+ 235298,
1483
+ 9401,
1484
+ 4,
1485
+ 15491,
1486
+ 235298,
1487
+ 5408,
1488
+ 4,
1489
+ 49316
1490
+ ],
1491
+ "input_ids_tail": [
1492
+ 235265,
1493
+ 235276,
1494
+ 235276,
1495
+ 780,
1496
+ 1125,
1497
+ 33201,
1498
+ 235336,
1499
+ 1
1500
+ ],
1501
+ "input_ids_sha": "34f8c5b3d2bbe4d3",
1502
+ "markers": [
1503
+ 10,
1504
+ 14,
1505
+ 18,
1506
+ 22,
1507
+ 26,
1508
+ 30,
1509
+ 34,
1510
+ 38,
1511
+ 42,
1512
+ 46,
1513
+ 50,
1514
+ 54,
1515
+ 58,
1516
+ 62,
1517
+ 66,
1518
+ 70,
1519
+ 74,
1520
+ 78,
1521
+ 82,
1522
+ 86,
1523
+ 90,
1524
+ 94,
1525
+ 98,
1526
+ 102,
1527
+ 106,
1528
+ 110,
1529
+ 114,
1530
+ 118,
1531
+ 122,
1532
+ 126,
1533
+ 130,
1534
+ 134,
1535
+ 138,
1536
+ 142,
1537
+ 146,
1538
+ 150,
1539
+ 154,
1540
+ 158,
1541
+ 162,
1542
+ 166,
1543
+ 170,
1544
+ 174,
1545
+ 178,
1546
+ 182,
1547
+ 186,
1548
+ 190,
1549
+ 194,
1550
+ 198,
1551
+ 202,
1552
+ 206,
1553
+ 210,
1554
+ 214,
1555
+ 218,
1556
+ 222,
1557
+ 226,
1558
+ 230,
1559
+ 234,
1560
+ 238,
1561
+ 242,
1562
+ 246,
1563
+ 250,
1564
+ 254,
1565
+ 258,
1566
+ 262,
1567
+ 266,
1568
+ 270,
1569
+ 274,
1570
+ 278,
1571
+ 282,
1572
+ 286,
1573
+ 290,
1574
+ 294,
1575
+ 298,
1576
+ 302,
1577
+ 306,
1578
+ 310,
1579
+ 314
1580
+ ],
1581
+ "temperature": 1.1596827507019043,
1582
+ "probabilities": [
1583
+ 0.000395,
1584
+ 8e-06,
1585
+ 0.000106,
1586
+ 0.000318,
1587
+ 0.000265,
1588
+ 0.001878,
1589
+ 0.002344,
1590
+ 0.00063,
1591
+ 0.000657,
1592
+ 0.000417,
1593
+ 0.000211,
1594
+ 0.000795,
1595
+ 0.000182,
1596
+ 0.00024,
1597
+ 0.000939,
1598
+ 0.000193,
1599
+ 0.0002,
1600
+ 0.000283,
1601
+ 0.000142,
1602
+ 0.000487,
1603
+ 0.000483,
1604
+ 6.6e-05,
1605
+ 0.000117,
1606
+ 0.000987,
1607
+ 0.000118,
1608
+ 0.000108,
1609
+ 8.2e-05,
1610
+ 0.000228,
1611
+ 0.000472,
1612
+ 0.000435,
1613
+ 2.6e-05,
1614
+ 0.000187,
1615
+ 0.001209,
1616
+ 0.000131,
1617
+ 0.000114,
1618
+ 0.005848,
1619
+ 0.000772,
1620
+ 4.6e-05,
1621
+ 4.3e-05,
1622
+ 0.000306,
1623
+ 6e-05,
1624
+ 0.000712,
1625
+ 0.000468,
1626
+ 0.000332,
1627
+ 5.7e-05,
1628
+ 0.000258,
1629
+ 0.000455,
1630
+ 0.000455,
1631
+ 0.004306,
1632
+ 0.000566,
1633
+ 0.002348,
1634
+ 0.00289,
1635
+ 4.8e-05,
1636
+ 0.00128,
1637
+ 0.000309,
1638
+ 0.000166,
1639
+ 0.000104,
1640
+ 9.9e-05,
1641
+ 0.000124,
1642
+ 8e-05,
1643
+ 0.000106,
1644
+ 0.00021,
1645
+ 0.000347,
1646
+ 0.052268,
1647
+ 0.000213,
1648
+ 0.000154,
1649
+ 0.000516,
1650
+ 0.000415,
1651
+ 0.011101,
1652
+ 0.001552,
1653
+ 0.000359,
1654
+ 5.9e-05,
1655
+ 3.5e-05,
1656
+ 0.000102,
1657
+ 0.830487,
1658
+ 0.059449,
1659
+ 0.005043
1660
+ ]
1661
+ }
1662
+ },
1663
+ {
1664
+ "bench": "en_kev_v2",
1665
+ "qtype": "choice",
1666
+ "instructions": "Which banking intent best describes this customer message?",
1667
+ "criteria": [
1668
+ [
1669
+ "activate_my_card",
1670
+ "activate my card"
1671
+ ],
1672
+ [
1673
+ "age_limit",
1674
+ null
1675
+ ],
1676
+ [
1677
+ "apple_pay_or_google_pay",
1678
+ "apple pay or google pay"
1679
+ ],
1680
+ [
1681
+ "atm_support",
1682
+ "atm support"
1683
+ ],
1684
+ [
1685
+ "automatic_top_up",
1686
+ "automatic top up"
1687
+ ],
1688
+ [
1689
+ "balance_not_updated_after_bank_transfer",
1690
+ "balance not updated after bank transfer"
1691
+ ],
1692
+ [
1693
+ "balance_not_updated_after_cheque_or_cash_deposit",
1694
+ "balance not updated after cheque or cash deposit"
1695
+ ],
1696
+ [
1697
+ "beneficiary_not_allowed",
1698
+ null
1699
+ ],
1700
+ [
1701
+ "cancel_transfer",
1702
+ null
1703
+ ],
1704
+ [
1705
+ "card_about_to_expire",
1706
+ null
1707
+ ],
1708
+ [
1709
+ "card_acceptance",
1710
+ "card acceptance"
1711
+ ],
1712
+ [
1713
+ "card_arrival",
1714
+ null
1715
+ ],
1716
+ [
1717
+ "card_delivery_estimate",
1718
+ "card delivery estimate"
1719
+ ],
1720
+ [
1721
+ "card_linking",
1722
+ "card linking"
1723
+ ],
1724
+ [
1725
+ "card_not_working",
1726
+ "card not working"
1727
+ ],
1728
+ [
1729
+ "card_payment_fee_charged",
1730
+ null
1731
+ ],
1732
+ [
1733
+ "card_payment_not_recognised",
1734
+ "card payment not recognised"
1735
+ ],
1736
+ [
1737
+ "card_payment_wrong_exchange_rate",
1738
+ null
1739
+ ],
1740
+ [
1741
+ "card_swallowed",
1742
+ "card swallowed"
1743
+ ],
1744
+ [
1745
+ "cash_withdrawal_charge",
1746
+ null
1747
+ ],
1748
+ [
1749
+ "cash_withdrawal_not_recognised",
1750
+ "cash withdrawal not recognised"
1751
+ ],
1752
+ [
1753
+ "change_pin",
1754
+ "change pin"
1755
+ ],
1756
+ [
1757
+ "compromised_card",
1758
+ null
1759
+ ],
1760
+ [
1761
+ "contactless_not_working",
1762
+ "contactless not working"
1763
+ ],
1764
+ [
1765
+ "country_support",
1766
+ null
1767
+ ],
1768
+ [
1769
+ "declined_card_payment",
1770
+ "declined card payment"
1771
+ ],
1772
+ [
1773
+ "declined_cash_withdrawal",
1774
+ "declined cash withdrawal"
1775
+ ],
1776
+ [
1777
+ "declined_transfer",
1778
+ null
1779
+ ],
1780
+ [
1781
+ "direct_debit_payment_not_recognised",
1782
+ null
1783
+ ],
1784
+ [
1785
+ "disposable_card_limits",
1786
+ null
1787
+ ],
1788
+ [
1789
+ "edit_personal_details",
1790
+ "edit personal details"
1791
+ ],
1792
+ [
1793
+ "exchange_charge",
1794
+ null
1795
+ ],
1796
+ [
1797
+ "exchange_rate",
1798
+ null
1799
+ ],
1800
+ [
1801
+ "exchange_via_app",
1802
+ "exchange via app"
1803
+ ],
1804
+ [
1805
+ "extra_charge_on_statement",
1806
+ null
1807
+ ],
1808
+ [
1809
+ "failed_transfer",
1810
+ null
1811
+ ],
1812
+ [
1813
+ "fiat_currency_support",
1814
+ null
1815
+ ],
1816
+ [
1817
+ "get_disposable_virtual_card",
1818
+ null
1819
+ ],
1820
+ [
1821
+ "get_physical_card",
1822
+ null
1823
+ ],
1824
+ [
1825
+ "getting_spare_card",
1826
+ null
1827
+ ],
1828
+ [
1829
+ "getting_virtual_card",
1830
+ null
1831
+ ],
1832
+ [
1833
+ "lost_or_stolen_card",
1834
+ "lost or stolen card"
1835
+ ],
1836
+ [
1837
+ "lost_or_stolen_phone",
1838
+ null
1839
+ ],
1840
+ [
1841
+ "order_physical_card",
1842
+ "order physical card"
1843
+ ],
1844
+ [
1845
+ "passcode_forgotten",
1846
+ null
1847
+ ],
1848
+ [
1849
+ "pending_card_payment",
1850
+ null
1851
+ ],
1852
+ [
1853
+ "pending_cash_withdrawal",
1854
+ "pending cash withdrawal"
1855
+ ],
1856
+ [
1857
+ "pending_top_up",
1858
+ "pending top up"
1859
+ ],
1860
+ [
1861
+ "pending_transfer",
1862
+ null
1863
+ ],
1864
+ [
1865
+ "pin_blocked",
1866
+ null
1867
+ ],
1868
+ [
1869
+ "receiving_money",
1870
+ null
1871
+ ],
1872
+ [
1873
+ "Refund_not_showing_up",
1874
+ null
1875
+ ],
1876
+ [
1877
+ "request_refund",
1878
+ "request refund"
1879
+ ],
1880
+ [
1881
+ "reverted_card_payment?",
1882
+ "reverted card payment?"
1883
+ ],
1884
+ [
1885
+ "supported_cards_and_currencies",
1886
+ null
1887
+ ],
1888
+ [
1889
+ "terminate_account",
1890
+ null
1891
+ ],
1892
+ [
1893
+ "top_up_by_bank_transfer_charge",
1894
+ "top up by bank transfer charge"
1895
+ ],
1896
+ [
1897
+ "top_up_by_card_charge",
1898
+ "top up by card charge"
1899
+ ],
1900
+ [
1901
+ "top_up_by_cash_or_cheque",
1902
+ null
1903
+ ],
1904
+ [
1905
+ "top_up_failed",
1906
+ "top up failed"
1907
+ ],
1908
+ [
1909
+ "top_up_limits",
1910
+ "top up limits"
1911
+ ],
1912
+ [
1913
+ "top_up_reverted",
1914
+ null
1915
+ ],
1916
+ [
1917
+ "topping_up_by_card",
1918
+ "topping up by card"
1919
+ ],
1920
+ [
1921
+ "transaction_charged_twice",
1922
+ null
1923
+ ],
1924
+ [
1925
+ "transfer_fee_charged",
1926
+ null
1927
+ ],
1928
+ [
1929
+ "transfer_into_account",
1930
+ "transfer into account"
1931
+ ],
1932
+ [
1933
+ "transfer_not_received_by_recipient",
1934
+ null
1935
+ ],
1936
+ [
1937
+ "transfer_timing",
1938
+ null
1939
+ ],
1940
+ [
1941
+ "unable_to_verify_identity",
1942
+ "unable to verify identity"
1943
+ ],
1944
+ [
1945
+ "verify_my_identity",
1946
+ null
1947
+ ],
1948
+ [
1949
+ "verify_source_of_funds",
1950
+ "verify source of funds"
1951
+ ],
1952
+ [
1953
+ "verify_top_up",
1954
+ "verify top up"
1955
+ ],
1956
+ [
1957
+ "virtual_card_not_working",
1958
+ null
1959
+ ],
1960
+ [
1961
+ "visa_or_mastercard",
1962
+ null
1963
+ ],
1964
+ [
1965
+ "why_verify_identity",
1966
+ "why verify identity"
1967
+ ],
1968
+ [
1969
+ "wrong_amount_of_cash_received",
1970
+ "wrong amount of cash received"
1971
+ ],
1972
+ [
1973
+ "wrong_exchange_rate_for_cash_withdrawal",
1974
+ "wrong exchange rate for cash withdrawal"
1975
+ ]
1976
+ ],
1977
+ "state": "I was trying to use my virtual card at a merchant and it was rejected. How can I fix this?",
1978
+ "expect": {
1979
+ "n_tokens": 342,
1980
+ "input_ids_head": [
1981
+ 2,
1982
+ 6241,
1983
+ 2872,
1984
+ 235292,
1985
+ 12236,
1986
+ 25795,
1987
+ 13503,
1988
+ 1963,
1989
+ 19306,
1990
+ 1,
1991
+ 4,
1992
+ 33773,
1993
+ 235298,
1994
+ 1723,
1995
+ 4,
1996
+ 3911,
1997
+ 235298,
1998
+ 9401,
1999
+ 4,
2000
+ 15491,
2001
+ 235298,
2002
+ 5408,
2003
+ 4,
2004
+ 49316
2005
+ ],
2006
+ "input_ids_tail": [
2007
+ 235265,
2008
+ 2250,
2009
+ 798,
2010
+ 590,
2011
+ 6530,
2012
+ 736,
2013
+ 235336,
2014
+ 1
2015
+ ],
2016
+ "input_ids_sha": "48be4c40d62accb7",
2017
+ "markers": [
2018
+ 10,
2019
+ 14,
2020
+ 18,
2021
+ 22,
2022
+ 26,
2023
+ 30,
2024
+ 34,
2025
+ 38,
2026
+ 42,
2027
+ 46,
2028
+ 50,
2029
+ 54,
2030
+ 58,
2031
+ 62,
2032
+ 66,
2033
+ 70,
2034
+ 74,
2035
+ 78,
2036
+ 82,
2037
+ 86,
2038
+ 90,
2039
+ 94,
2040
+ 98,
2041
+ 102,
2042
+ 106,
2043
+ 110,
2044
+ 114,
2045
+ 118,
2046
+ 122,
2047
+ 126,
2048
+ 130,
2049
+ 134,
2050
+ 138,
2051
+ 142,
2052
+ 146,
2053
+ 150,
2054
+ 154,
2055
+ 158,
2056
+ 162,
2057
+ 166,
2058
+ 170,
2059
+ 174,
2060
+ 178,
2061
+ 182,
2062
+ 186,
2063
+ 190,
2064
+ 194,
2065
+ 198,
2066
+ 202,
2067
+ 206,
2068
+ 210,
2069
+ 214,
2070
+ 218,
2071
+ 222,
2072
+ 226,
2073
+ 230,
2074
+ 234,
2075
+ 238,
2076
+ 242,
2077
+ 246,
2078
+ 250,
2079
+ 254,
2080
+ 258,
2081
+ 262,
2082
+ 266,
2083
+ 270,
2084
+ 274,
2085
+ 278,
2086
+ 282,
2087
+ 286,
2088
+ 290,
2089
+ 294,
2090
+ 298,
2091
+ 302,
2092
+ 306,
2093
+ 310,
2094
+ 314
2095
+ ],
2096
+ "temperature": 1.1596827507019043,
2097
+ "probabilities": [
2098
+ 0.000382,
2099
+ 0.0,
2100
+ 2e-06,
2101
+ 6e-06,
2102
+ 1.2e-05,
2103
+ 1e-06,
2104
+ 1e-06,
2105
+ 4e-06,
2106
+ 3e-06,
2107
+ 0.000158,
2108
+ 0.000228,
2109
+ 7e-06,
2110
+ 2.2e-05,
2111
+ 0.000134,
2112
+ 4.5e-05,
2113
+ 5e-06,
2114
+ 3e-06,
2115
+ 4e-06,
2116
+ 2.2e-05,
2117
+ 2e-06,
2118
+ 1e-06,
2119
+ 2e-05,
2120
+ 0.000314,
2121
+ 2.7e-05,
2122
+ 2e-06,
2123
+ 0.000878,
2124
+ 2e-06,
2125
+ 5e-06,
2126
+ 2e-06,
2127
+ 0.00036,
2128
+ 2e-06,
2129
+ 1e-06,
2130
+ 1e-06,
2131
+ 1e-06,
2132
+ 0.0,
2133
+ 1.3e-05,
2134
+ 1e-06,
2135
+ 2e-06,
2136
+ 2e-06,
2137
+ 1.5e-05,
2138
+ 0.009369,
2139
+ 7.3e-05,
2140
+ 2e-06,
2141
+ 2e-06,
2142
+ 1.3e-05,
2143
+ 7.7e-05,
2144
+ 1e-06,
2145
+ 4e-06,
2146
+ 4e-06,
2147
+ 5.4e-05,
2148
+ 4e-06,
2149
+ 4e-05,
2150
+ 2e-06,
2151
+ 0.000197,
2152
+ 3.8e-05,
2153
+ 2.4e-05,
2154
+ 4e-06,
2155
+ 2e-06,
2156
+ 2e-06,
2157
+ 1e-06,
2158
+ 1e-06,
2159
+ 2e-06,
2160
+ 2e-06,
2161
+ 0.0,
2162
+ 0.0,
2163
+ 2e-06,
2164
+ 1e-06,
2165
+ 1e-06,
2166
+ 0.00018,
2167
+ 7.1e-05,
2168
+ 1.4e-05,
2169
+ 1.3e-05,
2170
+ 0.986918,
2171
+ 2e-06,
2172
+ 0.000169,
2173
+ 1.4e-05,
2174
+ 5e-06
2175
+ ]
2176
+ }
2177
+ },
2178
+ {
2179
+ "bench": "synthetic_overflow",
2180
+ "qtype": "choice",
2181
+ "instructions": "매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 매우 긴 지시문입니다.",
2182
+ "criteria": [
2183
+ [
2184
+ "opt0",
2185
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2186
+ ],
2187
+ [
2188
+ "opt1",
2189
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2190
+ ],
2191
+ [
2192
+ "opt2",
2193
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2194
+ ],
2195
+ [
2196
+ "opt3",
2197
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2198
+ ],
2199
+ [
2200
+ "opt4",
2201
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2202
+ ],
2203
+ [
2204
+ "opt5",
2205
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2206
+ ],
2207
+ [
2208
+ "opt6",
2209
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2210
+ ],
2211
+ [
2212
+ "opt7",
2213
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2214
+ ],
2215
+ [
2216
+ "opt8",
2217
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2218
+ ],
2219
+ [
2220
+ "opt9",
2221
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2222
+ ],
2223
+ [
2224
+ "opt10",
2225
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2226
+ ],
2227
+ [
2228
+ "opt11",
2229
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2230
+ ],
2231
+ [
2232
+ "opt12",
2233
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2234
+ ],
2235
+ [
2236
+ "opt13",
2237
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2238
+ ],
2239
+ [
2240
+ "opt14",
2241
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2242
+ ],
2243
+ [
2244
+ "opt15",
2245
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설�� 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2246
+ ],
2247
+ [
2248
+ "opt16",
2249
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2250
+ ],
2251
+ [
2252
+ "opt17",
2253
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2254
+ ],
2255
+ [
2256
+ "opt18",
2257
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2258
+ ],
2259
+ [
2260
+ "opt19",
2261
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2262
+ ],
2263
+ [
2264
+ "opt20",
2265
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2266
+ ],
2267
+ [
2268
+ "opt21",
2269
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2270
+ ],
2271
+ [
2272
+ "opt22",
2273
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2274
+ ],
2275
+ [
2276
+ "opt23",
2277
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2278
+ ],
2279
+ [
2280
+ "opt24",
2281
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2282
+ ],
2283
+ [
2284
+ "opt25",
2285
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2286
+ ],
2287
+ [
2288
+ "opt26",
2289
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2290
+ ],
2291
+ [
2292
+ "opt27",
2293
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2294
+ ],
2295
+ [
2296
+ "opt28",
2297
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2298
+ ],
2299
+ [
2300
+ "opt29",
2301
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 ��명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2302
+ ],
2303
+ [
2304
+ "opt30",
2305
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2306
+ ],
2307
+ [
2308
+ "opt31",
2309
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2310
+ ],
2311
+ [
2312
+ "opt32",
2313
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2314
+ ],
2315
+ [
2316
+ "opt33",
2317
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2318
+ ],
2319
+ [
2320
+ "opt34",
2321
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2322
+ ],
2323
+ [
2324
+ "opt35",
2325
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2326
+ ],
2327
+ [
2328
+ "opt36",
2329
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2330
+ ],
2331
+ [
2332
+ "opt37",
2333
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2334
+ ],
2335
+ [
2336
+ "opt38",
2337
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2338
+ ],
2339
+ [
2340
+ "opt39",
2341
+ "아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 아주 긴 옵션 설명 "
2342
+ ]
2343
+ ],
2344
+ "state": "상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 ��태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 상태 텍스트 ",
2345
+ "expect": {
2346
+ "n_tokens": 1024,
2347
+ "input_ids_head": [
2348
+ 2,
2349
+ 6241,
2350
+ 2872,
2351
+ 235292,
2352
+ 195531,
2353
+ 195531,
2354
+ 195531,
2355
+ 195531,
2356
+ 195531,
2357
+ 195531,
2358
+ 195531,
2359
+ 195531,
2360
+ 195531,
2361
+ 195531,
2362
+ 195531,
2363
+ 195531,
2364
+ 195531,
2365
+ 1,
2366
+ 4,
2367
+ 16775,
2368
+ 235276,
2369
+ 235292,
2370
+ 23745,
2371
+ 237014
2372
+ ],
2373
+ "input_ids_tail": [
2374
+ 235248,
2375
+ 242756,
2376
+ 50691,
2377
+ 209975,
2378
+ 235248,
2379
+ 242756,
2380
+ 50691,
2381
+ 1
2382
+ ],
2383
+ "input_ids_sha": "16377bb85c4375f6",
2384
+ "markers": [
2385
+ 18,
2386
+ 24,
2387
+ 30,
2388
+ 36,
2389
+ 42,
2390
+ 48,
2391
+ 54,
2392
+ 60,
2393
+ 66,
2394
+ 72,
2395
+ 78,
2396
+ 84,
2397
+ 90,
2398
+ 96,
2399
+ 102,
2400
+ 108,
2401
+ 114,
2402
+ 120,
2403
+ 126,
2404
+ 132,
2405
+ 138,
2406
+ 144,
2407
+ 150,
2408
+ 156,
2409
+ 162,
2410
+ 168,
2411
+ 174,
2412
+ 180,
2413
+ 186,
2414
+ 192,
2415
+ 198,
2416
+ 204,
2417
+ 210,
2418
+ 216,
2419
+ 222,
2420
+ 228,
2421
+ 234,
2422
+ 240,
2423
+ 246,
2424
+ 252
2425
+ ],
2426
+ "temperature": 1.1596827507019043,
2427
+ "probabilities": [
2428
+ 0.144456,
2429
+ 0.103199,
2430
+ 0.148241,
2431
+ 0.088115,
2432
+ 0.025361,
2433
+ 0.025121,
2434
+ 0.024122,
2435
+ 0.024819,
2436
+ 0.026094,
2437
+ 0.030745,
2438
+ 0.030928,
2439
+ 0.029066,
2440
+ 0.026905,
2441
+ 0.028985,
2442
+ 0.011251,
2443
+ 0.013362,
2444
+ 0.009802,
2445
+ 0.012782,
2446
+ 0.009822,
2447
+ 0.010008,
2448
+ 0.011746,
2449
+ 0.016683,
2450
+ 0.014114,
2451
+ 0.01765,
2452
+ 0.007038,
2453
+ 0.007169,
2454
+ 0.005494,
2455
+ 0.005854,
2456
+ 0.006177,
2457
+ 0.007378,
2458
+ 0.011916,
2459
+ 0.012338,
2460
+ 0.009368,
2461
+ 0.008444,
2462
+ 0.004338,
2463
+ 0.005051,
2464
+ 0.005573,
2465
+ 0.005318,
2466
+ 0.005954,
2467
+ 0.009215
2468
+ ]
2469
+ }
2470
+ }
2471
+ ]
2472
+ }
onnx/laya_runtime.json ADDED
@@ -0,0 +1,40 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "max_len": 1024,
3
+ "head_max_len": 256,
4
+ "temperature": [
5
+ 1.1161558628082275,
6
+ 1.384758472442627,
7
+ 2.9561145305633545
8
+ ],
9
+ "temperature_by_options": {
10
+ "choice:3-5": 1.1276466846466064,
11
+ "choice:2": 1.1349214315414429,
12
+ "noul:2": 2.9561145305633545,
13
+ "choice:11+": 1.1596827507019043,
14
+ "score:3-5": 1.6169527769088745,
15
+ "score:6-10": 1.3670761585235596,
16
+ "choice:6-10": 0.9881007075309753
17
+ },
18
+ "qtypes": {
19
+ "choice": 0,
20
+ "score": 1,
21
+ "noul": 2
22
+ },
23
+ "special_tokens": {
24
+ "cls": 2,
25
+ "sep": 1,
26
+ "mask": 4,
27
+ "pad": 0
28
+ },
29
+ "mask_token": "<mask>",
30
+ "option_token_cap": 48,
31
+ "head_min_tokens": 8,
32
+ "opt_budget_floor": 16,
33
+ "opt_per_option_floor": 4,
34
+ "vocab_size": 256000,
35
+ "head_prefix": "{qtype} question: {instructions}",
36
+ "noul_default_false": "no, the statement does not hold",
37
+ "noul_default_true": "yes, the statement holds",
38
+ "logits_only": true,
39
+ "opset": 20
40
+ }
onnx/model.onnx ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:da0e9c419b7fb4c78ea8eb43ff4577dbb36de75289e6d91f8ad0cf31fed50ef6
3
+ size 2290168
onnx/model.onnx.data ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:e778e44657cbcad44c462f70bf810d384d92574f76e5e732afee1c8559e9dad7
3
+ size 1286864896
onnx/tokenizer.json ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:609d8f4c067cd3950f88594c5a802616cea245823836ef5848ee4fc40aab5b6f
3
+ size 34363188
rl_agent_config.json ADDED
@@ -0,0 +1,54 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "encoder": "jhu-clsp/mmBERT-base",
3
+ "head_layers": 2,
4
+ "max_len": 1024,
5
+ "head_max_len": 256,
6
+ "max_prefixes": 6,
7
+ "act_costs": {
8
+ "escalate": 0.5
9
+ },
10
+ "cost_wrong_act": 3.0,
11
+ "amp_dtype": "bf16",
12
+ "model_name": "laya-ko",
13
+ "temperature": [
14
+ 1.1161558628082275,
15
+ 1.384758472442627,
16
+ 2.9561145305633545
17
+ ],
18
+ "temperature_by_options": {
19
+ "choice:3-5": 1.1276466846466064,
20
+ "choice:2": 1.1349214315414429,
21
+ "noul:2": 2.9561145305633545,
22
+ "choice:11+": 1.1596827507019043,
23
+ "score:3-5": 1.6169527769088745,
24
+ "score:6-10": 1.3670761585235596,
25
+ "choice:6-10": 0.9881007075309753
26
+ },
27
+ "training": {
28
+ "epochs_completed": 4,
29
+ "total_epochs": 4,
30
+ "hours": 0.30873065650463105,
31
+ "base": "convaiinnovations/laya:multilingual",
32
+ "args": {
33
+ "train": "data/train_items.jsonl",
34
+ "out": "models/laya-ko-v1",
35
+ "device": "cuda:0",
36
+ "epochs": 4,
37
+ "micro_batch": 32,
38
+ "grad_accum": 2,
39
+ "lr_encoder": 1e-05,
40
+ "lr_head": 0.0001,
41
+ "replay_share": 0.2,
42
+ "l2sp": 0.0,
43
+ "group_size": 4,
44
+ "sigma_start": 0.4,
45
+ "sigma_end": 0.1,
46
+ "ce_weight": 1.0,
47
+ "rl_weight": 1.0,
48
+ "max_steps": 0,
49
+ "eval_benches": "klue_ynat,klue_nli,klue_sts,klue_re,ja_jcqa,en_typed_decisions,en_mmlu",
50
+ "seed": 17
51
+ }
52
+ },
53
+ "fine_tuned": true
54
+ }
tokenizer/special_tokens_map.json ADDED
@@ -0,0 +1,53 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "bos_token": {
3
+ "content": "<bos>",
4
+ "lstrip": false,
5
+ "normalized": false,
6
+ "rstrip": false,
7
+ "single_word": false
8
+ },
9
+ "cls_token": {
10
+ "content": "<bos>",
11
+ "lstrip": false,
12
+ "normalized": false,
13
+ "rstrip": false,
14
+ "single_word": false
15
+ },
16
+ "eos_token": {
17
+ "content": "<eos>",
18
+ "lstrip": false,
19
+ "normalized": false,
20
+ "rstrip": false,
21
+ "single_word": false
22
+ },
23
+ "extra_0": "<start_of_turn>",
24
+ "extra_1": "<end_of_turn>",
25
+ "mask_token": {
26
+ "content": "<mask>",
27
+ "lstrip": true,
28
+ "normalized": false,
29
+ "rstrip": false,
30
+ "single_word": false
31
+ },
32
+ "pad_token": {
33
+ "content": "<pad>",
34
+ "lstrip": false,
35
+ "normalized": false,
36
+ "rstrip": false,
37
+ "single_word": false
38
+ },
39
+ "sep_token": {
40
+ "content": "<eos>",
41
+ "lstrip": false,
42
+ "normalized": false,
43
+ "rstrip": false,
44
+ "single_word": false
45
+ },
46
+ "unk_token": {
47
+ "content": "<unk>",
48
+ "lstrip": false,
49
+ "normalized": false,
50
+ "rstrip": false,
51
+ "single_word": false
52
+ }
53
+ }
tokenizer/tokenizer.json ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:609d8f4c067cd3950f88594c5a802616cea245823836ef5848ee4fc40aab5b6f
3
+ size 34363188
tokenizer/tokenizer_config.json ADDED
@@ -0,0 +1,2018 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "added_tokens_decoder": {
3
+ "0": {
4
+ "content": "<pad>",
5
+ "lstrip": false,
6
+ "normalized": false,
7
+ "rstrip": false,
8
+ "single_word": false,
9
+ "special": true
10
+ },
11
+ "1": {
12
+ "content": "<eos>",
13
+ "lstrip": false,
14
+ "normalized": false,
15
+ "rstrip": false,
16
+ "single_word": false,
17
+ "special": true
18
+ },
19
+ "2": {
20
+ "content": "<bos>",
21
+ "lstrip": false,
22
+ "normalized": false,
23
+ "rstrip": false,
24
+ "single_word": false,
25
+ "special": true
26
+ },
27
+ "3": {
28
+ "content": "<unk>",
29
+ "lstrip": false,
30
+ "normalized": false,
31
+ "rstrip": false,
32
+ "single_word": false,
33
+ "special": true
34
+ },
35
+ "4": {
36
+ "content": "<mask>",
37
+ "lstrip": true,
38
+ "normalized": false,
39
+ "rstrip": false,
40
+ "single_word": false,
41
+ "special": true
42
+ },
43
+ "5": {
44
+ "content": "<2mass>",
45
+ "lstrip": false,
46
+ "normalized": false,
47
+ "rstrip": false,
48
+ "single_word": false,
49
+ "special": false
50
+ },
51
+ "6": {
52
+ "content": "[@BOS@]",
53
+ "lstrip": false,
54
+ "normalized": false,
55
+ "rstrip": false,
56
+ "single_word": false,
57
+ "special": false
58
+ },
59
+ "7": {
60
+ "content": "<unused0>",
61
+ "lstrip": false,
62
+ "normalized": false,
63
+ "rstrip": false,
64
+ "single_word": false,
65
+ "special": false
66
+ },
67
+ "8": {
68
+ "content": "<unused1>",
69
+ "lstrip": false,
70
+ "normalized": false,
71
+ "rstrip": false,
72
+ "single_word": false,
73
+ "special": false
74
+ },
75
+ "9": {
76
+ "content": "<unused2>",
77
+ "lstrip": false,
78
+ "normalized": false,
79
+ "rstrip": false,
80
+ "single_word": false,
81
+ "special": false
82
+ },
83
+ "10": {
84
+ "content": "<unused3>",
85
+ "lstrip": false,
86
+ "normalized": false,
87
+ "rstrip": false,
88
+ "single_word": false,
89
+ "special": false
90
+ },
91
+ "11": {
92
+ "content": "<unused4>",
93
+ "lstrip": false,
94
+ "normalized": false,
95
+ "rstrip": false,
96
+ "single_word": false,
97
+ "special": false
98
+ },
99
+ "12": {
100
+ "content": "<unused5>",
101
+ "lstrip": false,
102
+ "normalized": false,
103
+ "rstrip": false,
104
+ "single_word": false,
105
+ "special": false
106
+ },
107
+ "13": {
108
+ "content": "<unused6>",
109
+ "lstrip": false,
110
+ "normalized": false,
111
+ "rstrip": false,
112
+ "single_word": false,
113
+ "special": false
114
+ },
115
+ "14": {
116
+ "content": "<unused7>",
117
+ "lstrip": false,
118
+ "normalized": false,
119
+ "rstrip": false,
120
+ "single_word": false,
121
+ "special": false
122
+ },
123
+ "15": {
124
+ "content": "<unused8>",
125
+ "lstrip": false,
126
+ "normalized": false,
127
+ "rstrip": false,
128
+ "single_word": false,
129
+ "special": false
130
+ },
131
+ "16": {
132
+ "content": "<unused9>",
133
+ "lstrip": false,
134
+ "normalized": false,
135
+ "rstrip": false,
136
+ "single_word": false,
137
+ "special": false
138
+ },
139
+ "17": {
140
+ "content": "<unused10>",
141
+ "lstrip": false,
142
+ "normalized": false,
143
+ "rstrip": false,
144
+ "single_word": false,
145
+ "special": false
146
+ },
147
+ "18": {
148
+ "content": "<unused11>",
149
+ "lstrip": false,
150
+ "normalized": false,
151
+ "rstrip": false,
152
+ "single_word": false,
153
+ "special": false
154
+ },
155
+ "19": {
156
+ "content": "<unused12>",
157
+ "lstrip": false,
158
+ "normalized": false,
159
+ "rstrip": false,
160
+ "single_word": false,
161
+ "special": false
162
+ },
163
+ "20": {
164
+ "content": "<unused13>",
165
+ "lstrip": false,
166
+ "normalized": false,
167
+ "rstrip": false,
168
+ "single_word": false,
169
+ "special": false
170
+ },
171
+ "21": {
172
+ "content": "<unused14>",
173
+ "lstrip": false,
174
+ "normalized": false,
175
+ "rstrip": false,
176
+ "single_word": false,
177
+ "special": false
178
+ },
179
+ "22": {
180
+ "content": "<unused15>",
181
+ "lstrip": false,
182
+ "normalized": false,
183
+ "rstrip": false,
184
+ "single_word": false,
185
+ "special": false
186
+ },
187
+ "23": {
188
+ "content": "<unused16>",
189
+ "lstrip": false,
190
+ "normalized": false,
191
+ "rstrip": false,
192
+ "single_word": false,
193
+ "special": false
194
+ },
195
+ "24": {
196
+ "content": "<unused17>",
197
+ "lstrip": false,
198
+ "normalized": false,
199
+ "rstrip": false,
200
+ "single_word": false,
201
+ "special": false
202
+ },
203
+ "25": {
204
+ "content": "<unused18>",
205
+ "lstrip": false,
206
+ "normalized": false,
207
+ "rstrip": false,
208
+ "single_word": false,
209
+ "special": false
210
+ },
211
+ "26": {
212
+ "content": "<unused19>",
213
+ "lstrip": false,
214
+ "normalized": false,
215
+ "rstrip": false,
216
+ "single_word": false,
217
+ "special": false
218
+ },
219
+ "27": {
220
+ "content": "<unused20>",
221
+ "lstrip": false,
222
+ "normalized": false,
223
+ "rstrip": false,
224
+ "single_word": false,
225
+ "special": false
226
+ },
227
+ "28": {
228
+ "content": "<unused21>",
229
+ "lstrip": false,
230
+ "normalized": false,
231
+ "rstrip": false,
232
+ "single_word": false,
233
+ "special": false
234
+ },
235
+ "29": {
236
+ "content": "<unused22>",
237
+ "lstrip": false,
238
+ "normalized": false,
239
+ "rstrip": false,
240
+ "single_word": false,
241
+ "special": false
242
+ },
243
+ "30": {
244
+ "content": "<unused23>",
245
+ "lstrip": false,
246
+ "normalized": false,
247
+ "rstrip": false,
248
+ "single_word": false,
249
+ "special": false
250
+ },
251
+ "31": {
252
+ "content": "<unused24>",
253
+ "lstrip": false,
254
+ "normalized": false,
255
+ "rstrip": false,
256
+ "single_word": false,
257
+ "special": false
258
+ },
259
+ "32": {
260
+ "content": "<unused25>",
261
+ "lstrip": false,
262
+ "normalized": false,
263
+ "rstrip": false,
264
+ "single_word": false,
265
+ "special": false
266
+ },
267
+ "33": {
268
+ "content": "<unused26>",
269
+ "lstrip": false,
270
+ "normalized": false,
271
+ "rstrip": false,
272
+ "single_word": false,
273
+ "special": false
274
+ },
275
+ "34": {
276
+ "content": "<unused27>",
277
+ "lstrip": false,
278
+ "normalized": false,
279
+ "rstrip": false,
280
+ "single_word": false,
281
+ "special": false
282
+ },
283
+ "35": {
284
+ "content": "<unused28>",
285
+ "lstrip": false,
286
+ "normalized": false,
287
+ "rstrip": false,
288
+ "single_word": false,
289
+ "special": false
290
+ },
291
+ "36": {
292
+ "content": "<unused29>",
293
+ "lstrip": false,
294
+ "normalized": false,
295
+ "rstrip": false,
296
+ "single_word": false,
297
+ "special": false
298
+ },
299
+ "37": {
300
+ "content": "<unused30>",
301
+ "lstrip": false,
302
+ "normalized": false,
303
+ "rstrip": false,
304
+ "single_word": false,
305
+ "special": false
306
+ },
307
+ "38": {
308
+ "content": "<unused31>",
309
+ "lstrip": false,
310
+ "normalized": false,
311
+ "rstrip": false,
312
+ "single_word": false,
313
+ "special": false
314
+ },
315
+ "39": {
316
+ "content": "<unused32>",
317
+ "lstrip": false,
318
+ "normalized": false,
319
+ "rstrip": false,
320
+ "single_word": false,
321
+ "special": false
322
+ },
323
+ "40": {
324
+ "content": "<unused33>",
325
+ "lstrip": false,
326
+ "normalized": false,
327
+ "rstrip": false,
328
+ "single_word": false,
329
+ "special": false
330
+ },
331
+ "41": {
332
+ "content": "<unused34>",
333
+ "lstrip": false,
334
+ "normalized": false,
335
+ "rstrip": false,
336
+ "single_word": false,
337
+ "special": false
338
+ },
339
+ "42": {
340
+ "content": "<unused35>",
341
+ "lstrip": false,
342
+ "normalized": false,
343
+ "rstrip": false,
344
+ "single_word": false,
345
+ "special": false
346
+ },
347
+ "43": {
348
+ "content": "<unused36>",
349
+ "lstrip": false,
350
+ "normalized": false,
351
+ "rstrip": false,
352
+ "single_word": false,
353
+ "special": false
354
+ },
355
+ "44": {
356
+ "content": "<unused37>",
357
+ "lstrip": false,
358
+ "normalized": false,
359
+ "rstrip": false,
360
+ "single_word": false,
361
+ "special": false
362
+ },
363
+ "45": {
364
+ "content": "<unused38>",
365
+ "lstrip": false,
366
+ "normalized": false,
367
+ "rstrip": false,
368
+ "single_word": false,
369
+ "special": false
370
+ },
371
+ "46": {
372
+ "content": "<unused39>",
373
+ "lstrip": false,
374
+ "normalized": false,
375
+ "rstrip": false,
376
+ "single_word": false,
377
+ "special": false
378
+ },
379
+ "47": {
380
+ "content": "<unused40>",
381
+ "lstrip": false,
382
+ "normalized": false,
383
+ "rstrip": false,
384
+ "single_word": false,
385
+ "special": false
386
+ },
387
+ "48": {
388
+ "content": "<unused41>",
389
+ "lstrip": false,
390
+ "normalized": false,
391
+ "rstrip": false,
392
+ "single_word": false,
393
+ "special": false
394
+ },
395
+ "49": {
396
+ "content": "<unused42>",
397
+ "lstrip": false,
398
+ "normalized": false,
399
+ "rstrip": false,
400
+ "single_word": false,
401
+ "special": false
402
+ },
403
+ "50": {
404
+ "content": "<unused43>",
405
+ "lstrip": false,
406
+ "normalized": false,
407
+ "rstrip": false,
408
+ "single_word": false,
409
+ "special": false
410
+ },
411
+ "51": {
412
+ "content": "<unused44>",
413
+ "lstrip": false,
414
+ "normalized": false,
415
+ "rstrip": false,
416
+ "single_word": false,
417
+ "special": false
418
+ },
419
+ "52": {
420
+ "content": "<unused45>",
421
+ "lstrip": false,
422
+ "normalized": false,
423
+ "rstrip": false,
424
+ "single_word": false,
425
+ "special": false
426
+ },
427
+ "53": {
428
+ "content": "<unused46>",
429
+ "lstrip": false,
430
+ "normalized": false,
431
+ "rstrip": false,
432
+ "single_word": false,
433
+ "special": false
434
+ },
435
+ "54": {
436
+ "content": "<unused47>",
437
+ "lstrip": false,
438
+ "normalized": false,
439
+ "rstrip": false,
440
+ "single_word": false,
441
+ "special": false
442
+ },
443
+ "55": {
444
+ "content": "<unused48>",
445
+ "lstrip": false,
446
+ "normalized": false,
447
+ "rstrip": false,
448
+ "single_word": false,
449
+ "special": false
450
+ },
451
+ "56": {
452
+ "content": "<unused49>",
453
+ "lstrip": false,
454
+ "normalized": false,
455
+ "rstrip": false,
456
+ "single_word": false,
457
+ "special": false
458
+ },
459
+ "57": {
460
+ "content": "<unused50>",
461
+ "lstrip": false,
462
+ "normalized": false,
463
+ "rstrip": false,
464
+ "single_word": false,
465
+ "special": false
466
+ },
467
+ "58": {
468
+ "content": "<unused51>",
469
+ "lstrip": false,
470
+ "normalized": false,
471
+ "rstrip": false,
472
+ "single_word": false,
473
+ "special": false
474
+ },
475
+ "59": {
476
+ "content": "<unused52>",
477
+ "lstrip": false,
478
+ "normalized": false,
479
+ "rstrip": false,
480
+ "single_word": false,
481
+ "special": false
482
+ },
483
+ "60": {
484
+ "content": "<unused53>",
485
+ "lstrip": false,
486
+ "normalized": false,
487
+ "rstrip": false,
488
+ "single_word": false,
489
+ "special": false
490
+ },
491
+ "61": {
492
+ "content": "<unused54>",
493
+ "lstrip": false,
494
+ "normalized": false,
495
+ "rstrip": false,
496
+ "single_word": false,
497
+ "special": false
498
+ },
499
+ "62": {
500
+ "content": "<unused55>",
501
+ "lstrip": false,
502
+ "normalized": false,
503
+ "rstrip": false,
504
+ "single_word": false,
505
+ "special": false
506
+ },
507
+ "63": {
508
+ "content": "<unused56>",
509
+ "lstrip": false,
510
+ "normalized": false,
511
+ "rstrip": false,
512
+ "single_word": false,
513
+ "special": false
514
+ },
515
+ "64": {
516
+ "content": "<unused57>",
517
+ "lstrip": false,
518
+ "normalized": false,
519
+ "rstrip": false,
520
+ "single_word": false,
521
+ "special": false
522
+ },
523
+ "65": {
524
+ "content": "<unused58>",
525
+ "lstrip": false,
526
+ "normalized": false,
527
+ "rstrip": false,
528
+ "single_word": false,
529
+ "special": false
530
+ },
531
+ "66": {
532
+ "content": "<unused59>",
533
+ "lstrip": false,
534
+ "normalized": false,
535
+ "rstrip": false,
536
+ "single_word": false,
537
+ "special": false
538
+ },
539
+ "67": {
540
+ "content": "<unused60>",
541
+ "lstrip": false,
542
+ "normalized": false,
543
+ "rstrip": false,
544
+ "single_word": false,
545
+ "special": false
546
+ },
547
+ "68": {
548
+ "content": "<unused61>",
549
+ "lstrip": false,
550
+ "normalized": false,
551
+ "rstrip": false,
552
+ "single_word": false,
553
+ "special": false
554
+ },
555
+ "69": {
556
+ "content": "<unused62>",
557
+ "lstrip": false,
558
+ "normalized": false,
559
+ "rstrip": false,
560
+ "single_word": false,
561
+ "special": false
562
+ },
563
+ "70": {
564
+ "content": "<unused63>",
565
+ "lstrip": false,
566
+ "normalized": false,
567
+ "rstrip": false,
568
+ "single_word": false,
569
+ "special": false
570
+ },
571
+ "71": {
572
+ "content": "<unused64>",
573
+ "lstrip": false,
574
+ "normalized": false,
575
+ "rstrip": false,
576
+ "single_word": false,
577
+ "special": false
578
+ },
579
+ "72": {
580
+ "content": "<unused65>",
581
+ "lstrip": false,
582
+ "normalized": false,
583
+ "rstrip": false,
584
+ "single_word": false,
585
+ "special": false
586
+ },
587
+ "73": {
588
+ "content": "<unused66>",
589
+ "lstrip": false,
590
+ "normalized": false,
591
+ "rstrip": false,
592
+ "single_word": false,
593
+ "special": false
594
+ },
595
+ "74": {
596
+ "content": "<unused67>",
597
+ "lstrip": false,
598
+ "normalized": false,
599
+ "rstrip": false,
600
+ "single_word": false,
601
+ "special": false
602
+ },
603
+ "75": {
604
+ "content": "<unused68>",
605
+ "lstrip": false,
606
+ "normalized": false,
607
+ "rstrip": false,
608
+ "single_word": false,
609
+ "special": false
610
+ },
611
+ "76": {
612
+ "content": "<unused69>",
613
+ "lstrip": false,
614
+ "normalized": false,
615
+ "rstrip": false,
616
+ "single_word": false,
617
+ "special": false
618
+ },
619
+ "77": {
620
+ "content": "<unused70>",
621
+ "lstrip": false,
622
+ "normalized": false,
623
+ "rstrip": false,
624
+ "single_word": false,
625
+ "special": false
626
+ },
627
+ "78": {
628
+ "content": "<unused71>",
629
+ "lstrip": false,
630
+ "normalized": false,
631
+ "rstrip": false,
632
+ "single_word": false,
633
+ "special": false
634
+ },
635
+ "79": {
636
+ "content": "<unused72>",
637
+ "lstrip": false,
638
+ "normalized": false,
639
+ "rstrip": false,
640
+ "single_word": false,
641
+ "special": false
642
+ },
643
+ "80": {
644
+ "content": "<unused73>",
645
+ "lstrip": false,
646
+ "normalized": false,
647
+ "rstrip": false,
648
+ "single_word": false,
649
+ "special": false
650
+ },
651
+ "81": {
652
+ "content": "<unused74>",
653
+ "lstrip": false,
654
+ "normalized": false,
655
+ "rstrip": false,
656
+ "single_word": false,
657
+ "special": false
658
+ },
659
+ "82": {
660
+ "content": "<unused75>",
661
+ "lstrip": false,
662
+ "normalized": false,
663
+ "rstrip": false,
664
+ "single_word": false,
665
+ "special": false
666
+ },
667
+ "83": {
668
+ "content": "<unused76>",
669
+ "lstrip": false,
670
+ "normalized": false,
671
+ "rstrip": false,
672
+ "single_word": false,
673
+ "special": false
674
+ },
675
+ "84": {
676
+ "content": "<unused77>",
677
+ "lstrip": false,
678
+ "normalized": false,
679
+ "rstrip": false,
680
+ "single_word": false,
681
+ "special": false
682
+ },
683
+ "85": {
684
+ "content": "<unused78>",
685
+ "lstrip": false,
686
+ "normalized": false,
687
+ "rstrip": false,
688
+ "single_word": false,
689
+ "special": false
690
+ },
691
+ "86": {
692
+ "content": "<unused79>",
693
+ "lstrip": false,
694
+ "normalized": false,
695
+ "rstrip": false,
696
+ "single_word": false,
697
+ "special": false
698
+ },
699
+ "87": {
700
+ "content": "<unused80>",
701
+ "lstrip": false,
702
+ "normalized": false,
703
+ "rstrip": false,
704
+ "single_word": false,
705
+ "special": false
706
+ },
707
+ "88": {
708
+ "content": "<unused81>",
709
+ "lstrip": false,
710
+ "normalized": false,
711
+ "rstrip": false,
712
+ "single_word": false,
713
+ "special": false
714
+ },
715
+ "89": {
716
+ "content": "<unused82>",
717
+ "lstrip": false,
718
+ "normalized": false,
719
+ "rstrip": false,
720
+ "single_word": false,
721
+ "special": false
722
+ },
723
+ "90": {
724
+ "content": "<unused83>",
725
+ "lstrip": false,
726
+ "normalized": false,
727
+ "rstrip": false,
728
+ "single_word": false,
729
+ "special": false
730
+ },
731
+ "91": {
732
+ "content": "<unused84>",
733
+ "lstrip": false,
734
+ "normalized": false,
735
+ "rstrip": false,
736
+ "single_word": false,
737
+ "special": false
738
+ },
739
+ "92": {
740
+ "content": "<unused85>",
741
+ "lstrip": false,
742
+ "normalized": false,
743
+ "rstrip": false,
744
+ "single_word": false,
745
+ "special": false
746
+ },
747
+ "93": {
748
+ "content": "<unused86>",
749
+ "lstrip": false,
750
+ "normalized": false,
751
+ "rstrip": false,
752
+ "single_word": false,
753
+ "special": false
754
+ },
755
+ "94": {
756
+ "content": "<unused87>",
757
+ "lstrip": false,
758
+ "normalized": false,
759
+ "rstrip": false,
760
+ "single_word": false,
761
+ "special": false
762
+ },
763
+ "95": {
764
+ "content": "<unused88>",
765
+ "lstrip": false,
766
+ "normalized": false,
767
+ "rstrip": false,
768
+ "single_word": false,
769
+ "special": false
770
+ },
771
+ "96": {
772
+ "content": "<unused89>",
773
+ "lstrip": false,
774
+ "normalized": false,
775
+ "rstrip": false,
776
+ "single_word": false,
777
+ "special": false
778
+ },
779
+ "97": {
780
+ "content": "<unused90>",
781
+ "lstrip": false,
782
+ "normalized": false,
783
+ "rstrip": false,
784
+ "single_word": false,
785
+ "special": false
786
+ },
787
+ "98": {
788
+ "content": "<unused91>",
789
+ "lstrip": false,
790
+ "normalized": false,
791
+ "rstrip": false,
792
+ "single_word": false,
793
+ "special": false
794
+ },
795
+ "99": {
796
+ "content": "<unused92>",
797
+ "lstrip": false,
798
+ "normalized": false,
799
+ "rstrip": false,
800
+ "single_word": false,
801
+ "special": false
802
+ },
803
+ "100": {
804
+ "content": "<unused93>",
805
+ "lstrip": false,
806
+ "normalized": false,
807
+ "rstrip": false,
808
+ "single_word": false,
809
+ "special": false
810
+ },
811
+ "101": {
812
+ "content": "<unused94>",
813
+ "lstrip": false,
814
+ "normalized": false,
815
+ "rstrip": false,
816
+ "single_word": false,
817
+ "special": false
818
+ },
819
+ "102": {
820
+ "content": "<unused95>",
821
+ "lstrip": false,
822
+ "normalized": false,
823
+ "rstrip": false,
824
+ "single_word": false,
825
+ "special": false
826
+ },
827
+ "103": {
828
+ "content": "<unused96>",
829
+ "lstrip": false,
830
+ "normalized": false,
831
+ "rstrip": false,
832
+ "single_word": false,
833
+ "special": false
834
+ },
835
+ "104": {
836
+ "content": "<unused97>",
837
+ "lstrip": false,
838
+ "normalized": false,
839
+ "rstrip": false,
840
+ "single_word": false,
841
+ "special": false
842
+ },
843
+ "105": {
844
+ "content": "<unused98>",
845
+ "lstrip": false,
846
+ "normalized": false,
847
+ "rstrip": false,
848
+ "single_word": false,
849
+ "special": false
850
+ },
851
+ "106": {
852
+ "content": "<start_of_turn>",
853
+ "lstrip": false,
854
+ "normalized": false,
855
+ "rstrip": false,
856
+ "single_word": false,
857
+ "special": true
858
+ },
859
+ "107": {
860
+ "content": "<end_of_turn>",
861
+ "lstrip": false,
862
+ "normalized": false,
863
+ "rstrip": false,
864
+ "single_word": false,
865
+ "special": true
866
+ },
867
+ "108": {
868
+ "content": "\n",
869
+ "lstrip": false,
870
+ "normalized": false,
871
+ "rstrip": false,
872
+ "single_word": false,
873
+ "special": false
874
+ },
875
+ "109": {
876
+ "content": "\n\n",
877
+ "lstrip": false,
878
+ "normalized": false,
879
+ "rstrip": false,
880
+ "single_word": false,
881
+ "special": false
882
+ },
883
+ "110": {
884
+ "content": "\n\n\n",
885
+ "lstrip": false,
886
+ "normalized": false,
887
+ "rstrip": false,
888
+ "single_word": false,
889
+ "special": false
890
+ },
891
+ "111": {
892
+ "content": "\n\n\n\n",
893
+ "lstrip": false,
894
+ "normalized": false,
895
+ "rstrip": false,
896
+ "single_word": false,
897
+ "special": false
898
+ },
899
+ "112": {
900
+ "content": "\n\n\n\n\n",
901
+ "lstrip": false,
902
+ "normalized": false,
903
+ "rstrip": false,
904
+ "single_word": false,
905
+ "special": false
906
+ },
907
+ "113": {
908
+ "content": "\n\n\n\n\n\n",
909
+ "lstrip": false,
910
+ "normalized": false,
911
+ "rstrip": false,
912
+ "single_word": false,
913
+ "special": false
914
+ },
915
+ "114": {
916
+ "content": "\n\n\n\n\n\n\n",
917
+ "lstrip": false,
918
+ "normalized": false,
919
+ "rstrip": false,
920
+ "single_word": false,
921
+ "special": false
922
+ },
923
+ "115": {
924
+ "content": "\n\n\n\n\n\n\n\n",
925
+ "lstrip": false,
926
+ "normalized": false,
927
+ "rstrip": false,
928
+ "single_word": false,
929
+ "special": false
930
+ },
931
+ "116": {
932
+ "content": "\n\n\n\n\n\n\n\n\n",
933
+ "lstrip": false,
934
+ "normalized": false,
935
+ "rstrip": false,
936
+ "single_word": false,
937
+ "special": false
938
+ },
939
+ "117": {
940
+ "content": "\n\n\n\n\n\n\n\n\n\n",
941
+ "lstrip": false,
942
+ "normalized": false,
943
+ "rstrip": false,
944
+ "single_word": false,
945
+ "special": false
946
+ },
947
+ "118": {
948
+ "content": "\n\n\n\n\n\n\n\n\n\n\n",
949
+ "lstrip": false,
950
+ "normalized": false,
951
+ "rstrip": false,
952
+ "single_word": false,
953
+ "special": false
954
+ },
955
+ "119": {
956
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n",
957
+ "lstrip": false,
958
+ "normalized": false,
959
+ "rstrip": false,
960
+ "single_word": false,
961
+ "special": false
962
+ },
963
+ "120": {
964
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n",
965
+ "lstrip": false,
966
+ "normalized": false,
967
+ "rstrip": false,
968
+ "single_word": false,
969
+ "special": false
970
+ },
971
+ "121": {
972
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
973
+ "lstrip": false,
974
+ "normalized": false,
975
+ "rstrip": false,
976
+ "single_word": false,
977
+ "special": false
978
+ },
979
+ "122": {
980
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
981
+ "lstrip": false,
982
+ "normalized": false,
983
+ "rstrip": false,
984
+ "single_word": false,
985
+ "special": false
986
+ },
987
+ "123": {
988
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
989
+ "lstrip": false,
990
+ "normalized": false,
991
+ "rstrip": false,
992
+ "single_word": false,
993
+ "special": false
994
+ },
995
+ "124": {
996
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
997
+ "lstrip": false,
998
+ "normalized": false,
999
+ "rstrip": false,
1000
+ "single_word": false,
1001
+ "special": false
1002
+ },
1003
+ "125": {
1004
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1005
+ "lstrip": false,
1006
+ "normalized": false,
1007
+ "rstrip": false,
1008
+ "single_word": false,
1009
+ "special": false
1010
+ },
1011
+ "126": {
1012
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1013
+ "lstrip": false,
1014
+ "normalized": false,
1015
+ "rstrip": false,
1016
+ "single_word": false,
1017
+ "special": false
1018
+ },
1019
+ "127": {
1020
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1021
+ "lstrip": false,
1022
+ "normalized": false,
1023
+ "rstrip": false,
1024
+ "single_word": false,
1025
+ "special": false
1026
+ },
1027
+ "128": {
1028
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1029
+ "lstrip": false,
1030
+ "normalized": false,
1031
+ "rstrip": false,
1032
+ "single_word": false,
1033
+ "special": false
1034
+ },
1035
+ "129": {
1036
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1037
+ "lstrip": false,
1038
+ "normalized": false,
1039
+ "rstrip": false,
1040
+ "single_word": false,
1041
+ "special": false
1042
+ },
1043
+ "130": {
1044
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1045
+ "lstrip": false,
1046
+ "normalized": false,
1047
+ "rstrip": false,
1048
+ "single_word": false,
1049
+ "special": false
1050
+ },
1051
+ "131": {
1052
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1053
+ "lstrip": false,
1054
+ "normalized": false,
1055
+ "rstrip": false,
1056
+ "single_word": false,
1057
+ "special": false
1058
+ },
1059
+ "132": {
1060
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1061
+ "lstrip": false,
1062
+ "normalized": false,
1063
+ "rstrip": false,
1064
+ "single_word": false,
1065
+ "special": false
1066
+ },
1067
+ "133": {
1068
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1069
+ "lstrip": false,
1070
+ "normalized": false,
1071
+ "rstrip": false,
1072
+ "single_word": false,
1073
+ "special": false
1074
+ },
1075
+ "134": {
1076
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1077
+ "lstrip": false,
1078
+ "normalized": false,
1079
+ "rstrip": false,
1080
+ "single_word": false,
1081
+ "special": false
1082
+ },
1083
+ "135": {
1084
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1085
+ "lstrip": false,
1086
+ "normalized": false,
1087
+ "rstrip": false,
1088
+ "single_word": false,
1089
+ "special": false
1090
+ },
1091
+ "136": {
1092
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1093
+ "lstrip": false,
1094
+ "normalized": false,
1095
+ "rstrip": false,
1096
+ "single_word": false,
1097
+ "special": false
1098
+ },
1099
+ "137": {
1100
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1101
+ "lstrip": false,
1102
+ "normalized": false,
1103
+ "rstrip": false,
1104
+ "single_word": false,
1105
+ "special": false
1106
+ },
1107
+ "138": {
1108
+ "content": "\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n\n",
1109
+ "lstrip": false,
1110
+ "normalized": false,
1111
+ "rstrip": false,
1112
+ "single_word": false,
1113
+ "special": false
1114
+ },
1115
+ "139": {
1116
+ "content": "▁▁",
1117
+ "lstrip": false,
1118
+ "normalized": false,
1119
+ "rstrip": false,
1120
+ "single_word": false,
1121
+ "special": false
1122
+ },
1123
+ "140": {
1124
+ "content": "▁▁▁",
1125
+ "lstrip": false,
1126
+ "normalized": false,
1127
+ "rstrip": false,
1128
+ "single_word": false,
1129
+ "special": false
1130
+ },
1131
+ "141": {
1132
+ "content": "▁▁▁▁",
1133
+ "lstrip": false,
1134
+ "normalized": false,
1135
+ "rstrip": false,
1136
+ "single_word": false,
1137
+ "special": false
1138
+ },
1139
+ "142": {
1140
+ "content": "▁▁▁▁▁",
1141
+ "lstrip": false,
1142
+ "normalized": false,
1143
+ "rstrip": false,
1144
+ "single_word": false,
1145
+ "special": false
1146
+ },
1147
+ "143": {
1148
+ "content": "▁▁▁▁▁▁",
1149
+ "lstrip": false,
1150
+ "normalized": false,
1151
+ "rstrip": false,
1152
+ "single_word": false,
1153
+ "special": false
1154
+ },
1155
+ "144": {
1156
+ "content": "▁▁▁▁▁▁▁",
1157
+ "lstrip": false,
1158
+ "normalized": false,
1159
+ "rstrip": false,
1160
+ "single_word": false,
1161
+ "special": false
1162
+ },
1163
+ "145": {
1164
+ "content": "▁▁▁▁▁▁▁▁",
1165
+ "lstrip": false,
1166
+ "normalized": false,
1167
+ "rstrip": false,
1168
+ "single_word": false,
1169
+ "special": false
1170
+ },
1171
+ "146": {
1172
+ "content": "▁▁▁▁▁▁▁▁▁",
1173
+ "lstrip": false,
1174
+ "normalized": false,
1175
+ "rstrip": false,
1176
+ "single_word": false,
1177
+ "special": false
1178
+ },
1179
+ "147": {
1180
+ "content": "▁▁▁▁▁▁▁▁▁▁",
1181
+ "lstrip": false,
1182
+ "normalized": false,
1183
+ "rstrip": false,
1184
+ "single_word": false,
1185
+ "special": false
1186
+ },
1187
+ "148": {
1188
+ "content": "▁▁▁▁▁▁▁▁▁▁▁",
1189
+ "lstrip": false,
1190
+ "normalized": false,
1191
+ "rstrip": false,
1192
+ "single_word": false,
1193
+ "special": false
1194
+ },
1195
+ "149": {
1196
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁",
1197
+ "lstrip": false,
1198
+ "normalized": false,
1199
+ "rstrip": false,
1200
+ "single_word": false,
1201
+ "special": false
1202
+ },
1203
+ "150": {
1204
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁",
1205
+ "lstrip": false,
1206
+ "normalized": false,
1207
+ "rstrip": false,
1208
+ "single_word": false,
1209
+ "special": false
1210
+ },
1211
+ "151": {
1212
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1213
+ "lstrip": false,
1214
+ "normalized": false,
1215
+ "rstrip": false,
1216
+ "single_word": false,
1217
+ "special": false
1218
+ },
1219
+ "152": {
1220
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1221
+ "lstrip": false,
1222
+ "normalized": false,
1223
+ "rstrip": false,
1224
+ "single_word": false,
1225
+ "special": false
1226
+ },
1227
+ "153": {
1228
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1229
+ "lstrip": false,
1230
+ "normalized": false,
1231
+ "rstrip": false,
1232
+ "single_word": false,
1233
+ "special": false
1234
+ },
1235
+ "154": {
1236
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1237
+ "lstrip": false,
1238
+ "normalized": false,
1239
+ "rstrip": false,
1240
+ "single_word": false,
1241
+ "special": false
1242
+ },
1243
+ "155": {
1244
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1245
+ "lstrip": false,
1246
+ "normalized": false,
1247
+ "rstrip": false,
1248
+ "single_word": false,
1249
+ "special": false
1250
+ },
1251
+ "156": {
1252
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1253
+ "lstrip": false,
1254
+ "normalized": false,
1255
+ "rstrip": false,
1256
+ "single_word": false,
1257
+ "special": false
1258
+ },
1259
+ "157": {
1260
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1261
+ "lstrip": false,
1262
+ "normalized": false,
1263
+ "rstrip": false,
1264
+ "single_word": false,
1265
+ "special": false
1266
+ },
1267
+ "158": {
1268
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1269
+ "lstrip": false,
1270
+ "normalized": false,
1271
+ "rstrip": false,
1272
+ "single_word": false,
1273
+ "special": false
1274
+ },
1275
+ "159": {
1276
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1277
+ "lstrip": false,
1278
+ "normalized": false,
1279
+ "rstrip": false,
1280
+ "single_word": false,
1281
+ "special": false
1282
+ },
1283
+ "160": {
1284
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1285
+ "lstrip": false,
1286
+ "normalized": false,
1287
+ "rstrip": false,
1288
+ "single_word": false,
1289
+ "special": false
1290
+ },
1291
+ "161": {
1292
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1293
+ "lstrip": false,
1294
+ "normalized": false,
1295
+ "rstrip": false,
1296
+ "single_word": false,
1297
+ "special": false
1298
+ },
1299
+ "162": {
1300
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1301
+ "lstrip": false,
1302
+ "normalized": false,
1303
+ "rstrip": false,
1304
+ "single_word": false,
1305
+ "special": false
1306
+ },
1307
+ "163": {
1308
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1309
+ "lstrip": false,
1310
+ "normalized": false,
1311
+ "rstrip": false,
1312
+ "single_word": false,
1313
+ "special": false
1314
+ },
1315
+ "164": {
1316
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1317
+ "lstrip": false,
1318
+ "normalized": false,
1319
+ "rstrip": false,
1320
+ "single_word": false,
1321
+ "special": false
1322
+ },
1323
+ "165": {
1324
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1325
+ "lstrip": false,
1326
+ "normalized": false,
1327
+ "rstrip": false,
1328
+ "single_word": false,
1329
+ "special": false
1330
+ },
1331
+ "166": {
1332
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1333
+ "lstrip": false,
1334
+ "normalized": false,
1335
+ "rstrip": false,
1336
+ "single_word": false,
1337
+ "special": false
1338
+ },
1339
+ "167": {
1340
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1341
+ "lstrip": false,
1342
+ "normalized": false,
1343
+ "rstrip": false,
1344
+ "single_word": false,
1345
+ "special": false
1346
+ },
1347
+ "168": {
1348
+ "content": "▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁▁",
1349
+ "lstrip": false,
1350
+ "normalized": false,
1351
+ "rstrip": false,
1352
+ "single_word": false,
1353
+ "special": false
1354
+ },
1355
+ "169": {
1356
+ "content": "<table>",
1357
+ "lstrip": false,
1358
+ "normalized": false,
1359
+ "rstrip": false,
1360
+ "single_word": false,
1361
+ "special": false
1362
+ },
1363
+ "170": {
1364
+ "content": "<caption>",
1365
+ "lstrip": false,
1366
+ "normalized": false,
1367
+ "rstrip": false,
1368
+ "single_word": false,
1369
+ "special": false
1370
+ },
1371
+ "171": {
1372
+ "content": "<thead>",
1373
+ "lstrip": false,
1374
+ "normalized": false,
1375
+ "rstrip": false,
1376
+ "single_word": false,
1377
+ "special": false
1378
+ },
1379
+ "172": {
1380
+ "content": "<tbody>",
1381
+ "lstrip": false,
1382
+ "normalized": false,
1383
+ "rstrip": false,
1384
+ "single_word": false,
1385
+ "special": false
1386
+ },
1387
+ "173": {
1388
+ "content": "<tfoot>",
1389
+ "lstrip": false,
1390
+ "normalized": false,
1391
+ "rstrip": false,
1392
+ "single_word": false,
1393
+ "special": false
1394
+ },
1395
+ "174": {
1396
+ "content": "<tr>",
1397
+ "lstrip": false,
1398
+ "normalized": false,
1399
+ "rstrip": false,
1400
+ "single_word": false,
1401
+ "special": false
1402
+ },
1403
+ "175": {
1404
+ "content": "<th>",
1405
+ "lstrip": false,
1406
+ "normalized": false,
1407
+ "rstrip": false,
1408
+ "single_word": false,
1409
+ "special": false
1410
+ },
1411
+ "176": {
1412
+ "content": "<td>",
1413
+ "lstrip": false,
1414
+ "normalized": false,
1415
+ "rstrip": false,
1416
+ "single_word": false,
1417
+ "special": false
1418
+ },
1419
+ "177": {
1420
+ "content": "</table>",
1421
+ "lstrip": false,
1422
+ "normalized": false,
1423
+ "rstrip": false,
1424
+ "single_word": false,
1425
+ "special": false
1426
+ },
1427
+ "178": {
1428
+ "content": "</caption>",
1429
+ "lstrip": false,
1430
+ "normalized": false,
1431
+ "rstrip": false,
1432
+ "single_word": false,
1433
+ "special": false
1434
+ },
1435
+ "179": {
1436
+ "content": "</thead>",
1437
+ "lstrip": false,
1438
+ "normalized": false,
1439
+ "rstrip": false,
1440
+ "single_word": false,
1441
+ "special": false
1442
+ },
1443
+ "180": {
1444
+ "content": "</tbody>",
1445
+ "lstrip": false,
1446
+ "normalized": false,
1447
+ "rstrip": false,
1448
+ "single_word": false,
1449
+ "special": false
1450
+ },
1451
+ "181": {
1452
+ "content": "</tfoot>",
1453
+ "lstrip": false,
1454
+ "normalized": false,
1455
+ "rstrip": false,
1456
+ "single_word": false,
1457
+ "special": false
1458
+ },
1459
+ "182": {
1460
+ "content": "</tr>",
1461
+ "lstrip": false,
1462
+ "normalized": false,
1463
+ "rstrip": false,
1464
+ "single_word": false,
1465
+ "special": false
1466
+ },
1467
+ "183": {
1468
+ "content": "</th>",
1469
+ "lstrip": false,
1470
+ "normalized": false,
1471
+ "rstrip": false,
1472
+ "single_word": false,
1473
+ "special": false
1474
+ },
1475
+ "184": {
1476
+ "content": "</td>",
1477
+ "lstrip": false,
1478
+ "normalized": false,
1479
+ "rstrip": false,
1480
+ "single_word": false,
1481
+ "special": false
1482
+ },
1483
+ "185": {
1484
+ "content": "<h1>",
1485
+ "lstrip": false,
1486
+ "normalized": false,
1487
+ "rstrip": false,
1488
+ "single_word": false,
1489
+ "special": false
1490
+ },
1491
+ "186": {
1492
+ "content": "<h2>",
1493
+ "lstrip": false,
1494
+ "normalized": false,
1495
+ "rstrip": false,
1496
+ "single_word": false,
1497
+ "special": false
1498
+ },
1499
+ "187": {
1500
+ "content": "<h3>",
1501
+ "lstrip": false,
1502
+ "normalized": false,
1503
+ "rstrip": false,
1504
+ "single_word": false,
1505
+ "special": false
1506
+ },
1507
+ "188": {
1508
+ "content": "<h4>",
1509
+ "lstrip": false,
1510
+ "normalized": false,
1511
+ "rstrip": false,
1512
+ "single_word": false,
1513
+ "special": false
1514
+ },
1515
+ "189": {
1516
+ "content": "<h5>",
1517
+ "lstrip": false,
1518
+ "normalized": false,
1519
+ "rstrip": false,
1520
+ "single_word": false,
1521
+ "special": false
1522
+ },
1523
+ "190": {
1524
+ "content": "<h6>",
1525
+ "lstrip": false,
1526
+ "normalized": false,
1527
+ "rstrip": false,
1528
+ "single_word": false,
1529
+ "special": false
1530
+ },
1531
+ "191": {
1532
+ "content": "<blockquote>",
1533
+ "lstrip": false,
1534
+ "normalized": false,
1535
+ "rstrip": false,
1536
+ "single_word": false,
1537
+ "special": false
1538
+ },
1539
+ "192": {
1540
+ "content": "</h1>",
1541
+ "lstrip": false,
1542
+ "normalized": false,
1543
+ "rstrip": false,
1544
+ "single_word": false,
1545
+ "special": false
1546
+ },
1547
+ "193": {
1548
+ "content": "</h2>",
1549
+ "lstrip": false,
1550
+ "normalized": false,
1551
+ "rstrip": false,
1552
+ "single_word": false,
1553
+ "special": false
1554
+ },
1555
+ "194": {
1556
+ "content": "</h3>",
1557
+ "lstrip": false,
1558
+ "normalized": false,
1559
+ "rstrip": false,
1560
+ "single_word": false,
1561
+ "special": false
1562
+ },
1563
+ "195": {
1564
+ "content": "</h4>",
1565
+ "lstrip": false,
1566
+ "normalized": false,
1567
+ "rstrip": false,
1568
+ "single_word": false,
1569
+ "special": false
1570
+ },
1571
+ "196": {
1572
+ "content": "</h5>",
1573
+ "lstrip": false,
1574
+ "normalized": false,
1575
+ "rstrip": false,
1576
+ "single_word": false,
1577
+ "special": false
1578
+ },
1579
+ "197": {
1580
+ "content": "</h6>",
1581
+ "lstrip": false,
1582
+ "normalized": false,
1583
+ "rstrip": false,
1584
+ "single_word": false,
1585
+ "special": false
1586
+ },
1587
+ "198": {
1588
+ "content": "</blockquote>",
1589
+ "lstrip": false,
1590
+ "normalized": false,
1591
+ "rstrip": false,
1592
+ "single_word": false,
1593
+ "special": false
1594
+ },
1595
+ "199": {
1596
+ "content": "<strong>",
1597
+ "lstrip": false,
1598
+ "normalized": false,
1599
+ "rstrip": false,
1600
+ "single_word": false,
1601
+ "special": false
1602
+ },
1603
+ "200": {
1604
+ "content": "<em>",
1605
+ "lstrip": false,
1606
+ "normalized": false,
1607
+ "rstrip": false,
1608
+ "single_word": false,
1609
+ "special": false
1610
+ },
1611
+ "201": {
1612
+ "content": "<b>",
1613
+ "lstrip": false,
1614
+ "normalized": false,
1615
+ "rstrip": false,
1616
+ "single_word": false,
1617
+ "special": false
1618
+ },
1619
+ "202": {
1620
+ "content": "<i>",
1621
+ "lstrip": false,
1622
+ "normalized": false,
1623
+ "rstrip": false,
1624
+ "single_word": false,
1625
+ "special": false
1626
+ },
1627
+ "203": {
1628
+ "content": "<u>",
1629
+ "lstrip": false,
1630
+ "normalized": false,
1631
+ "rstrip": false,
1632
+ "single_word": false,
1633
+ "special": false
1634
+ },
1635
+ "204": {
1636
+ "content": "<s>",
1637
+ "lstrip": false,
1638
+ "normalized": false,
1639
+ "rstrip": false,
1640
+ "single_word": false,
1641
+ "special": false
1642
+ },
1643
+ "205": {
1644
+ "content": "<sub>",
1645
+ "lstrip": false,
1646
+ "normalized": false,
1647
+ "rstrip": false,
1648
+ "single_word": false,
1649
+ "special": false
1650
+ },
1651
+ "206": {
1652
+ "content": "<sup>",
1653
+ "lstrip": false,
1654
+ "normalized": false,
1655
+ "rstrip": false,
1656
+ "single_word": false,
1657
+ "special": false
1658
+ },
1659
+ "207": {
1660
+ "content": "<code>",
1661
+ "lstrip": false,
1662
+ "normalized": false,
1663
+ "rstrip": false,
1664
+ "single_word": false,
1665
+ "special": false
1666
+ },
1667
+ "208": {
1668
+ "content": "</strong>",
1669
+ "lstrip": false,
1670
+ "normalized": false,
1671
+ "rstrip": false,
1672
+ "single_word": false,
1673
+ "special": false
1674
+ },
1675
+ "209": {
1676
+ "content": "</em>",
1677
+ "lstrip": false,
1678
+ "normalized": false,
1679
+ "rstrip": false,
1680
+ "single_word": false,
1681
+ "special": false
1682
+ },
1683
+ "210": {
1684
+ "content": "</b>",
1685
+ "lstrip": false,
1686
+ "normalized": false,
1687
+ "rstrip": false,
1688
+ "single_word": false,
1689
+ "special": false
1690
+ },
1691
+ "211": {
1692
+ "content": "</i>",
1693
+ "lstrip": false,
1694
+ "normalized": false,
1695
+ "rstrip": false,
1696
+ "single_word": false,
1697
+ "special": false
1698
+ },
1699
+ "212": {
1700
+ "content": "</u>",
1701
+ "lstrip": false,
1702
+ "normalized": false,
1703
+ "rstrip": false,
1704
+ "single_word": false,
1705
+ "special": false
1706
+ },
1707
+ "213": {
1708
+ "content": "</s>",
1709
+ "lstrip": false,
1710
+ "normalized": false,
1711
+ "rstrip": false,
1712
+ "single_word": false,
1713
+ "special": false
1714
+ },
1715
+ "214": {
1716
+ "content": "</sub>",
1717
+ "lstrip": false,
1718
+ "normalized": false,
1719
+ "rstrip": false,
1720
+ "single_word": false,
1721
+ "special": false
1722
+ },
1723
+ "215": {
1724
+ "content": "</sup>",
1725
+ "lstrip": false,
1726
+ "normalized": false,
1727
+ "rstrip": false,
1728
+ "single_word": false,
1729
+ "special": false
1730
+ },
1731
+ "216": {
1732
+ "content": "</code>",
1733
+ "lstrip": false,
1734
+ "normalized": false,
1735
+ "rstrip": false,
1736
+ "single_word": false,
1737
+ "special": false
1738
+ },
1739
+ "255968": {
1740
+ "content": "[toxicity=0]",
1741
+ "lstrip": false,
1742
+ "normalized": false,
1743
+ "rstrip": false,
1744
+ "single_word": false,
1745
+ "special": false
1746
+ },
1747
+ "255969": {
1748
+ "content": "\t\t",
1749
+ "lstrip": false,
1750
+ "normalized": false,
1751
+ "rstrip": false,
1752
+ "single_word": false,
1753
+ "special": false
1754
+ },
1755
+ "255970": {
1756
+ "content": "\t\t\t",
1757
+ "lstrip": false,
1758
+ "normalized": false,
1759
+ "rstrip": false,
1760
+ "single_word": false,
1761
+ "special": false
1762
+ },
1763
+ "255971": {
1764
+ "content": "\t\t\t\t",
1765
+ "lstrip": false,
1766
+ "normalized": false,
1767
+ "rstrip": false,
1768
+ "single_word": false,
1769
+ "special": false
1770
+ },
1771
+ "255972": {
1772
+ "content": "\t\t\t\t\t",
1773
+ "lstrip": false,
1774
+ "normalized": false,
1775
+ "rstrip": false,
1776
+ "single_word": false,
1777
+ "special": false
1778
+ },
1779
+ "255973": {
1780
+ "content": "\t\t\t\t\t\t",
1781
+ "lstrip": false,
1782
+ "normalized": false,
1783
+ "rstrip": false,
1784
+ "single_word": false,
1785
+ "special": false
1786
+ },
1787
+ "255974": {
1788
+ "content": "\t\t\t\t\t\t\t",
1789
+ "lstrip": false,
1790
+ "normalized": false,
1791
+ "rstrip": false,
1792
+ "single_word": false,
1793
+ "special": false
1794
+ },
1795
+ "255975": {
1796
+ "content": "\t\t\t\t\t\t\t\t",
1797
+ "lstrip": false,
1798
+ "normalized": false,
1799
+ "rstrip": false,
1800
+ "single_word": false,
1801
+ "special": false
1802
+ },
1803
+ "255976": {
1804
+ "content": "\t\t\t\t\t\t\t\t\t",
1805
+ "lstrip": false,
1806
+ "normalized": false,
1807
+ "rstrip": false,
1808
+ "single_word": false,
1809
+ "special": false
1810
+ },
1811
+ "255977": {
1812
+ "content": "\t\t\t\t\t\t\t\t\t\t",
1813
+ "lstrip": false,
1814
+ "normalized": false,
1815
+ "rstrip": false,
1816
+ "single_word": false,
1817
+ "special": false
1818
+ },
1819
+ "255978": {
1820
+ "content": "\t\t\t\t\t\t\t\t\t\t\t",
1821
+ "lstrip": false,
1822
+ "normalized": false,
1823
+ "rstrip": false,
1824
+ "single_word": false,
1825
+ "special": false
1826
+ },
1827
+ "255979": {
1828
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t",
1829
+ "lstrip": false,
1830
+ "normalized": false,
1831
+ "rstrip": false,
1832
+ "single_word": false,
1833
+ "special": false
1834
+ },
1835
+ "255980": {
1836
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t",
1837
+ "lstrip": false,
1838
+ "normalized": false,
1839
+ "rstrip": false,
1840
+ "single_word": false,
1841
+ "special": false
1842
+ },
1843
+ "255981": {
1844
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1845
+ "lstrip": false,
1846
+ "normalized": false,
1847
+ "rstrip": false,
1848
+ "single_word": false,
1849
+ "special": false
1850
+ },
1851
+ "255982": {
1852
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1853
+ "lstrip": false,
1854
+ "normalized": false,
1855
+ "rstrip": false,
1856
+ "single_word": false,
1857
+ "special": false
1858
+ },
1859
+ "255983": {
1860
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1861
+ "lstrip": false,
1862
+ "normalized": false,
1863
+ "rstrip": false,
1864
+ "single_word": false,
1865
+ "special": false
1866
+ },
1867
+ "255984": {
1868
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1869
+ "lstrip": false,
1870
+ "normalized": false,
1871
+ "rstrip": false,
1872
+ "single_word": false,
1873
+ "special": false
1874
+ },
1875
+ "255985": {
1876
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1877
+ "lstrip": false,
1878
+ "normalized": false,
1879
+ "rstrip": false,
1880
+ "single_word": false,
1881
+ "special": false
1882
+ },
1883
+ "255986": {
1884
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1885
+ "lstrip": false,
1886
+ "normalized": false,
1887
+ "rstrip": false,
1888
+ "single_word": false,
1889
+ "special": false
1890
+ },
1891
+ "255987": {
1892
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1893
+ "lstrip": false,
1894
+ "normalized": false,
1895
+ "rstrip": false,
1896
+ "single_word": false,
1897
+ "special": false
1898
+ },
1899
+ "255988": {
1900
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1901
+ "lstrip": false,
1902
+ "normalized": false,
1903
+ "rstrip": false,
1904
+ "single_word": false,
1905
+ "special": false
1906
+ },
1907
+ "255989": {
1908
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1909
+ "lstrip": false,
1910
+ "normalized": false,
1911
+ "rstrip": false,
1912
+ "single_word": false,
1913
+ "special": false
1914
+ },
1915
+ "255990": {
1916
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1917
+ "lstrip": false,
1918
+ "normalized": false,
1919
+ "rstrip": false,
1920
+ "single_word": false,
1921
+ "special": false
1922
+ },
1923
+ "255991": {
1924
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1925
+ "lstrip": false,
1926
+ "normalized": false,
1927
+ "rstrip": false,
1928
+ "single_word": false,
1929
+ "special": false
1930
+ },
1931
+ "255992": {
1932
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1933
+ "lstrip": false,
1934
+ "normalized": false,
1935
+ "rstrip": false,
1936
+ "single_word": false,
1937
+ "special": false
1938
+ },
1939
+ "255993": {
1940
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1941
+ "lstrip": false,
1942
+ "normalized": false,
1943
+ "rstrip": false,
1944
+ "single_word": false,
1945
+ "special": false
1946
+ },
1947
+ "255994": {
1948
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1949
+ "lstrip": false,
1950
+ "normalized": false,
1951
+ "rstrip": false,
1952
+ "single_word": false,
1953
+ "special": false
1954
+ },
1955
+ "255995": {
1956
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1957
+ "lstrip": false,
1958
+ "normalized": false,
1959
+ "rstrip": false,
1960
+ "single_word": false,
1961
+ "special": false
1962
+ },
1963
+ "255996": {
1964
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1965
+ "lstrip": false,
1966
+ "normalized": false,
1967
+ "rstrip": false,
1968
+ "single_word": false,
1969
+ "special": false
1970
+ },
1971
+ "255997": {
1972
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1973
+ "lstrip": false,
1974
+ "normalized": false,
1975
+ "rstrip": false,
1976
+ "single_word": false,
1977
+ "special": false
1978
+ },
1979
+ "255998": {
1980
+ "content": "\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t",
1981
+ "lstrip": false,
1982
+ "normalized": false,
1983
+ "rstrip": false,
1984
+ "single_word": false,
1985
+ "special": false
1986
+ },
1987
+ "255999": {
1988
+ "content": "<unused99>",
1989
+ "lstrip": false,
1990
+ "normalized": false,
1991
+ "rstrip": false,
1992
+ "single_word": false,
1993
+ "special": false
1994
+ }
1995
+ },
1996
+ "bos_token": "<bos>",
1997
+ "clean_up_tokenization_spaces": false,
1998
+ "cls_token": "<bos>",
1999
+ "eos_token": "<eos>",
2000
+ "extra_0": "<start_of_turn>",
2001
+ "extra_1": "<end_of_turn>",
2002
+ "extra_special_tokens": {
2003
+ "extra_0": "<start_of_turn>",
2004
+ "extra_1": "<end_of_turn>"
2005
+ },
2006
+ "mask_token": "<mask>",
2007
+ "model_input_names": [
2008
+ "input_ids",
2009
+ "attention_mask"
2010
+ ],
2011
+ "model_max_length": 8192,
2012
+ "pad_token": "<pad>",
2013
+ "padding_side": "right",
2014
+ "sep_token": "<eos>",
2015
+ "spaces_between_special_tokens": false,
2016
+ "tokenizer_class": "PreTrainedTokenizerFast",
2017
+ "unk_token": "<unk>"
2018
+ }