Text Classification
Transformers
Safetensors
English
Korean
Japanese
qev_decision_merged
feature-extraction
qev
typed-decision
custom-code
bf16
custom_code
Instructions to use querypieai/QEV-9B with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use querypieai/QEV-9B with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-classification", model="querypieai/QEV-9B", trust_remote_code=True)# pip install -U transformers accelerate # Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("querypieai/QEV-9B", trust_remote_code=True, device_map="auto") - Notebooks
- Google Colab
- Kaggle
|
Download README.ko.md from querypieai/QEV-9B: direct link, hf CLI and curl.
- Browser
- Download file 10.8 kB
-
https://huggingface.co/querypieai/QEV-9B/resolve/main/README.ko.md
- Command line
-
hf download hf://querypieai/QEV-9B/README.ko.md
-
curl -L -o README.ko.md https://huggingface.co/querypieai/QEV-9B/resolve/main/README.ko.md
10.8 kB
| # QEV-9B | |
| ์ถ๋ก ์ ์ฉ ๋ฐฐํฌ ยท LoRA ๋ณํฉ ยท BF16 | |
| **License: QueryPie AI Research License v1.0** | |
| ๊ฐ์ธ์ ๋น์์ ์ ์ฐ๊ตฌยท์คํ ๋ฐ ๋น์์ ์ ํ์ ์ฐ๊ตฌยทํ๊ฐ๋ฅผ ํ์ฉํฉ๋๋ค. ์์ ์ ์ด์ฉ์๋ QueryPie์ ์ฌ์ ์๋ฉด ํ๊ฐ ๋๋ ๋ณ๋์ ์์ ์ฉ ๋ผ์ด์ ์ค ๊ณ์ฝ์ด ํ์ํฉ๋๋ค. ์์ ์ ์ด์ฉ์ ํฌ๋งํ๋ ๊ฒฝ์ฐ [QueryPie์ ๋ฌธ์ํด ์ฃผ์ธ์](https://www.querypie.com/ko/contact-us). ๊ธฐ์ ์ ๋ฌดยท์ ํ ๊ฐ๋ฐยท์์ ๋ชฉ์ PoC๋ ๋ฌด๋ฃ ์ฐ๊ตฌ ํ์ฉ ๋ฒ์์ ํฌํจ๋์ง ์์ต๋๋ค. ํฌํจ๋ ์ 3์ ๊ธฐ๋ฐ ๋ชจ๋ธ์๋ ๊ฐ ์์ฒ ๋ผ์ด์ ์ค๊ฐ ์ ์ฉ๋ฉ๋๋ค. | |
| [English](README.md) ยท [ํ๊ตญ์ด](README.ko.md) ยท [ๆฅๆฌ่ช](README.ja.md) | |
| ## ๋ชจ๋ธ ์๊ฐ | |
| QEV-9B๋ Qwen3.5 ๊ธฐ๋ฐ์ ํ ์คํธ ์์ฌ๊ฒฐ์ ๋ชจ๋ธ์ ๋๋ค. ๋ณํฉ๋ rank-16 LoRA์ pointer head๋ฅผ ์ฌ์ฉํ๋ฉฐ choiceยทnoulยท์์ํ score ์ง๋ฌธ์ ํ ์คํธ ์์ฑ ์์ด ์ ํ์ง ํ๋ฅ ์ ๋ฐํํฉ๋๋ค. | |
| Base: `Qwen/Qwen3.5-9B-Base` ยท revision: `68c46c4b3498877f3ef123c856ecfde50c39f404` ยท format: `BF16` | |
| ## ํ์ต๋ฐ์ดํฐ | |
| ํ๋ก์ ํธ ํ์ต๋ฐ์ดํฐ๋ Public ๊ณต๊ฐ๋ฐ์ดํฐ์ ์ฌ๋ด DLP ๋ฐ์ดํฐ๋ฅผ ์ฌ์ฉํ๊ณ ๋ฐ์ดํฐ ์ฆ๊ฐ์ ์ ์ฉํด ๊ตฌ์ฑํ์ต๋๋ค. ์ค์ ํ์ตยท๊ฒ์ฆยทcalibrationยทํ ์คํธ ๋ฐ์ดํฐ๋ ๋ฐฐํฌํ์ง ์์ต๋๋ค. ์ด ์ฒดํฌํฌ์ธํธ๋ ๊ณต๊ฐ ๋ฐ์ดํฐ ๊ธฐ๋ฐ ๋ฒ์ฉ ํ์ต ํ ์ฌ๋ด DLP ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ ๋๋ฉ์ธ ์ถ๊ฐ ํ์ต์ ํฌํจํฉ๋๋ค. | |
| ## ๋ ๋ฆฝํ ํจํค์ง | |
| ์ ์ฒด LoRA ๋ณํฉ backbone, FP32 pointer head, tokenizer, calibration temperature์ Transformers ์ถ๋ก ์ฝ๋๋ฅผ ํฌํจํ๋ ์ถ๋ก ์ ์ฉ ๋ฐฐํฌ์ ๋๋ค. ๋ณ๋ adapter๋ ์ธ๋ถ ๊ธฐ๋ฐ ๋ชจ๋ธ ๋ค์ด๋ก๋๊ฐ ํ์ํ์ง ์์ต๋๋ค. ํ์ต ์คํฌ๋ฆฝํธยทadapter ํ์ผยทoptimizer ์ํยท์์ํ ๋๊ตฌยท๋ฐ์ดํฐ์ ์ ๋ฐฐํฌํ์ง ์์ต๋๋ค. ์ ์ฒด ๊ฐ์ค์น ๊ณต๊ฐ ์์ฒด๊ฐ ์ถ๊ฐ ํ์ต์ ๊ธฐ์ ์ ์ผ๋ก ์ฐจ๋จํ์ง๋ ์์ผ๋ฉฐ, ์ฌ์ฉ์๋ ํด๋น ๋ผ์ด์ ์ค ์กฐ๊ฑด์ด ์ ์ฉ๋ฉ๋๋ค. | |
| โ์ถ๋ก ์ ์ฉโ์ ์ ๊ณต ํ์ผ์ ๊ตฌ์ฑ์ ๋ปํ๋ฉฐ ์ถ๊ฐ ํ์ต์ ๊ธฐ์ ์ ์ผ๋ก ์ฐจ๋จํ๋ค๋ ์๋ฏธ๊ฐ ์๋๋๋ค. LICENSE๊ฐ ํ์ฉํ๋ ๊ฐ์ธ ๋น์์ ์ฐ๊ตฌยท์คํ๊ณผ ๋น์์ ํ์ ์ฐ๊ตฌยทํ๊ฐ ๋ชฉ์ ์ ์์ ยทํ์ธํ๋์ ๊ฐ๋ฅํฉ๋๋ค. ์์ ยท๊ธฐ์ ์ ๋ฌด ๋ชฉ์ ์ ์ฌ์ฉ๊ณผ ๊ทธ ๋ชฉ์ ์ ํ๊ฐยทํ์ธํ๋์๋ ์ฌ์ ์๋ฉด ํ๊ฐ ๋๋ ๋ณ๋ ์์ ๊ณ์ฝ์ด ํ์ํฉ๋๋ค. | |
| LoRA๋ฅผ ๋ณํฉํ BF16 backbone๊ณผ ๋ณ๊ฒฝํ์ง ์์ FP32 pointer head๋ฅผ ์ฌ์ฉํฉ๋๋ค. ๋ณํฉ์ ๋ฐ๋ฅธ ๋ฐ์ฌ๋ฆผ ์ฐจ์ด๋ validation.json์ ๊ธฐ๋กํฉ๋๋ค. | |
| ## ์ฌ์ฉ ์์ | |
| ```bash | |
| cd QEV-9B | |
| pip install -r requirements.txt | |
| python example.py --device cuda:0 | |
| ``` | |
| ```python | |
| from transformers import AutoModel | |
| model = AutoModel.from_pretrained(".", trust_remote_code=True, | |
| device="cuda:0", local_files_only=True) | |
| result = model.decide("This is a public product announcement.", { | |
| "dlp": {"type": "noul", "instructions": "Does this contain personal contact information?", | |
| "criteria": {"false": "No", "true": "Yes"}} | |
| }) | |
| print(result) | |
| ``` | |
| ์ ์ฒด ์ ์ฅ์๋ฅผ ๋ค์ด๋ก๋ํ ๋ค ์ ๋ช ๋ น์ ์คํํ์ธ์. ๊ณต๊ฐ๋ Hub ๋ชจ๋ธ์ ์ง์ ๋ก๋ํ ๋๋ "."์ ํด๋น ์ ์ฅ์ ID๋ก ๋ฐ๊พธ๊ณ local_files_only=True๋ฅผ ์๋ตํฉ๋๋ค. AutoModel๊ณผ decide()๋ฅผ ์ฌ์ฉํ๋ฉฐ, ์ผ๋ฐ Transformers pipelineยทHub ์์ ฏยทํธ์คํ Inference Providers์์ ํธํ์ฑ์ ๊ฒ์ฆํ์ง ์์์ต๋๋ค. | |
| ## ๋ณํฉ ์ BF16 ์๋ณธ์ ์ฐธ๊ณ ์ฑ๋ฅ | |
| ์๋ ์ฑ๋ฅํ๋ ๋ณํฉ ์ BF16 ์๋ณธ ์ฒดํฌํฌ์ธํธ์ ์ญ์ฌ์ ํ๊ฐ ๊ฒฐ๊ณผ์ด๋ฉฐ, ์ด๋ฒ ๋ณํฉยทINT8 ๊ณต๊ฐ ํจํค์ง์ ์ ๊ท ์ค์ธก ์ฑ๋ฅ์ด ์๋๋๋ค. ์ ์ฒด ๋ฒค์น๋งํฌ๋ ์ฌ์คํํ์ง ์์์ต๋๋ค. ๋ณํฉยท์์ํ๋ก ํ๋ฅ ์ด๋ ์ ํ ๊ฒฐ๊ณผ๊ฐ ๋ฐ๋ ์ ์์ต๋๋ค. validation.json์ ํยท์ยท์ผ ํฉ์ฑ 9๋ฌธํญ๊ณผ ์ ์ฅ ํ ์ฌ๋ก๋ฉ ๊ฒ์ฌ ๊ฒฐ๊ณผ๋ง ๊ธฐ๋กํฉ๋๋ค. | |
| | Metric | Value | | |
| |---|---| | |
| | MMLU-ProX-Lite ยท 16,384 questions | 44.51% | | |
| | Belebele ยท 24,622 questions | 73.28% | | |
| | Typed-Decision ยท 540 questions / 270 states | 87.96% | | |
| | Equal-panel mean accuracy | 68.58% | | |
| | DLP accuracy ยท 3,167 documents | 98.52% | | |
| | DLP recall ยท threshold 0.50 | 97.81% | | |
| | DLP F2 ยท threshold 0.50 | 97.95% | | |
| DLP FP/FN: 19/28. Stored checkpoint temperature: 1.255943. | |
| ๋ฐ๋ณต ์ฌ์ฉ๋ ์ญ์ฌ์ ํ๊ฐ์ด๋ฉฐ ์๋ก์ด ๋ ๋ฆฝ ํ์ธ ํ๊ฐ๊ฐ ์๋๋๋ค. ๊ณต๊ฐ ๋ฒค์น๋งํฌ์ ์ฌ์ ํ์ต ์ค์ผ ๊ฐ๋ฅ์ฑ์ ๋ฐฐ์ ํ ์ ์๊ณ KOยทJA ๋ฒ์ญ์ ์์ด๋ฏผ ๊ฒ์๋ฅผ ํ์ง ์์์ต๋๋ค. ํ๋ฅ ๊ฐ์ ์ ๋ต๋ฅ ๋ณด์ฆ์ด ์๋๋๋ค. | |
| ## ํ๊ฐ ๋ฐ์ดํฐ ์ถ์ฒ์ QEV ์คํ์ฉ ๊ฐ๊ณต | |
| ์๋ ์์น๋ ์์ฒ ๋ฒค์น๋งํฌ ์ ์ฒด๋ฅผ ๊ทธ๋๋ก ์คํํ ๊ณต์ ์ ์๊ฐ ์๋๋ผ, ์์ฒ ๋ฐ์ดํฐ๋ฅผ QEV/KEV/JEV๊ฐ ๊ณตํต์ผ๋ก ์ฒ๋ฆฌํ ์ ์๋ typed-decision ์ ๋ ฅ์ผ๋ก ๊ฐ๊ณตํ ์ฌ๋ด ๋น๊ต ํ๊ฐ ๊ฒฐ๊ณผ์ ๋๋ค. ํ์ต๋ฐ์ดํฐ ๊ตฌ์ฑ ์ค๋ช ๊ณผ ํ๊ฐ์ ์ถ์ฒ๋ ๊ตฌ๋ถํฉ๋๋ค. ์ค์ ์์ฒยท๊ฐ๊ณต ๋ฐ์ดํฐ๋ ์ด ์ ์ฅ์์ ํฌํจํ์ง ์์ต๋๋ค. | |
| - **MMLU-ProX-Lite**: [li-lab/MMLU-ProX-Lite](https://huggingface.co/datasets/li-lab/MMLU-ProX-Lite), MIT. ์ง๋ฌธ์ state, ์ ๋ต ์ ํ์ choice๋ก ๋ณํํ๊ณ cot_content ํด์ค์ ์ ๋ ฅ์์ ์ ์ธํ์ผ๋ฉฐ ๊ณต๋ยทN/A ์ ํ์ง๋ฅผ ์ ์ธํ์ต๋๋ค. ์๋ฌธ ๋ฌธ์ ยท์ ๋ต๊ณผ ์ ํ์ง ์์๋ฅผ ์ ์งํ๊ณ ์ ํจ์ฑ์ ํ์ธํ์ต๋๋ค. ๊ณตํต 29๊ฐ ์ธ์ด์ ์์ฒ 17,052๋ฌธํญ์์ ๊ธธ์ด ์ ํ์ ํต๊ณผํ ๊ณ ์ ๋น๊ต ๊ต์งํฉ **16,384๋ฌธํญ**์ ์ฌ์ฉํ์ต๋๋ค. | |
| - **Belebele**: [facebook/belebele](https://huggingface.co/datasets/facebook/belebele), CC BY-SA 4.0. flores_passage๋ฅผ state, ์๋ ์ง๋ฌธ์ instructions, ๋ค ์ ํ์ง๋ฅผ choice criteria๋ก ๋ณํํ๊ณ correct_answer_num์ ์ ๋ต ์ ํ์ง์ ์ฐ๊ฒฐํ์ต๋๋ค. ๊ณตํต 29๊ฐ ์ธ์ด์ ์์ฒ 26,100๋ฌธํญ ์ค ๊ฐ์ ๊ณ ์ ๋น๊ต ์กฐ๊ฑด์ **24,622๋ฌธํญ**์ ์ฌ์ฉํ์ต๋๋ค. ๊ฐ๊ณต๋ณธ์ ์ฌ๋ด ํ๊ฐ์ฉ์ด๋ฉฐ ์๋ฌธยท๊ฐ๊ณต๋ณธ์ ์ธ๋ถ ์ฌ๋ฐฐํฌํ์ง ์์ต๋๋ค. | |
| - **๋น๊ณต๊ฐ Typed-Decision**: QueryPie ํ๋ก์ ํธ์ private-general-v1. ์ ์ฑ ยท๊ท์น, ์ซ์ยท๋ ์ง, ๋๊ตฌ ๋ผ์ฐํ , ์ ๋ณด ๋ถ์กฑ, ์์ยท๋ฑ๊ธ, ์ผ์ ์ถ๋ก ์ ํ ํ๋ฆฟ์ผ๋ก ์์ฑํ๊ณ ์ฝ๋ยท๊ท์น solver๋ก ์ ๋ต์ ๋ง๋ค์์ต๋๋ค. ์์ด๋ฅผ ํ๊ตญ์ดยท์ผ๋ณธ์ด ํ ํ๋ฆฟ์ผ๋ก ๋ฒ์ญํ๋ฉด์ ์ ๋ตยท์ ํ์ง keyยท์ซ์๋ฅผ ์ ์งํ๊ณ ์๋ ์ ํฉ์ฑ์ ๊ฒ์ฌํ์ต๋๋ค. ์์ด๋ฏผ ๊ฒ์๋ ์ํํ์ง ์์์ต๋๋ค. ์์ฒ 450๊ฐ ์ํยท900๋ฌธํญ์์ q1/q2 ์ ํยท์ง๋ฌธยท์ ํ์ง๊ฐ ๋์ผํ ์ํ ์ ์ฒด๋ฅผ ์ ์ธํด **270๊ฐ ์ํยท540๋ฌธํญ**(์ธ์ด๋ณ 180๋ฌธํญ)์ ํ๊ฐํ์ต๋๋ค. | |
| - **DLP**: QueryPie ์ฌ๋ด ๋ค๊ตญ์ด DLP ํ ์คํธ์ **3,167๊ฑด**(EN 1,065 / JA 1,038 / KO 1,064). ์๋ฌธยทIDยท์ ๋ต์ ์ ์งํ๊ณ ๋ฌธ์๋ฅผ state๋ก, ๋ฏผ๊ฐ์ ๋ณด ์ ๋ฌด๋ฅผ noul true/false ์ง๋ฌธ์ผ๋ก ๋ณํํ์ต๋๋ค. ์ ๋ต findings๊ฐ ํ๋ ์ด์์ด๋ฉด ์์ฑ์ผ๋ก ์ ์ํ๋ฉฐ ์์นยท๊ฐ์ยท์ ํ์ ์์ ์ถ์ถ์ ํ๊ฐํ์ง ์์ต๋๋ค. ์์ฑ 1,281 / ์ ์ 1,886๊ฑด์ด๋ฉฐ threshold **0.50**์ ์ ์ฉํ์ต๋๋ค. ์ฌ๋ด ๋ฌธ์ ์๋ฌธ๊ณผ ๋ผ๋ฒจ์ ๋น๊ณต๊ฐ์ ๋๋ค. | |
| MMLUยทBelebele์ state 384 / ์ง๋ฌธ๋ณ row 1,024 / packed 2,048์ ๊ธธ์ด ์กฐ๊ฑด์ ํต๊ณผํ ๊ณ ์ item-ID ๊ต์งํฉ์ผ๋ก ๋น๊ตํ๊ณ ์๋ ์ ๋จํ์ง ์์์ต๋๋ค. ๋ฒ์ฉ ์ข ํฉ์ MMLUยทBelebeleยทTyped-Decision์ ๋ฌธํญ ๋จ์ ์ ํ๋๋ฅผ ๋์ผ ๊ฐ์ค ํ๊ท ํฉ๋๋ค. ๊ณต๊ฐ ๋ฐ์ดํฐ์ ๊ธฐ๋ก๋ revision๊ณผ ๊ฐ๊ณต๋ณธ SHA-256์ [EVALUATION_DATA_SOURCES.json](EVALUATION_DATA_SOURCES.json)์ ๋ณด์กดํ๋ฉฐ ์์ฒ ๋ฐ์ดํฐ์ ๋ผ์ด์ ์ค๋ QueryPie ๋ชจ๋ธ ๋ผ์ด์ ์ค๋ก ๋ณ๊ฒฝ๋์ง ์์ต๋๋ค. | |
| ## ์ ๋ ฅ ์ํ๊ณผ ์ฌ์ฉ ๋ฒ์ | |
| ๊ธฐ๋ณธ state ๊ฒ์ฌ๋ len(encoded_state) + 1 โค 2,048์ด๋ฏ๋ก ์ฌ์ฉ์ ๋ณธ๋ฌธ ์์ฒด๋ ํด๋น tokenizer ๊ธฐ์ค ์ต๋ 2,047ํ ํฐ์ ๋๋ค. ๋ณธ๋ฌธยท์ง๋ฌธยท์ ํ์งยท๊ตฌ์กฐ/ํ ํ๋ฆฟ ํ ํฐ์ ํฌํจํ ์ง๋ฌธ๋ณ ์ ์ฒด row๋ ์ต๋ 2,688ํ ํฐ์ด๋ฉฐ, ๋ชจ๋ row ๊ธธ์ด์ ํฉ๊ณ๋ ์ต๋ 10,752ํ ํฐ์ ๋๋ค. ๋ฐ๋ณต๋๋ ๋ณธ๋ฌธ๋ row๋ง๋ค ํฉ์ฐํฉ๋๋ค. ์ง๋ฌธ 1~4๊ฐ, ์ง๋ฌธ๋ณ ์ ํ์ง 2~10๊ฐ๋ฅผ ์ง์ํ๋ฉฐ ์ด๊ณผ ์ ๋ ฅ์ ์ ๋จ ์์ด ๊ฑฐ๋ถํฉ๋๋ค. ํ ํฐ ์๋ ๋ชจ๋ธ๋ณ tokenizer์ ๋ฐ๋ผ ๋ฌ๋ผ์ง๋๋ค. ๊ธฐ์กด ํ์ง ํ๊ฐ๋ state 384 / row 1,024 / packed 2,048 ์กฐ๊ฑด์ด๋ฉฐ, ํ์ฌ์ ๋ ๋์ ์ ๋ ฅ ์ํ์์์ ํ์ง์ ์ ์ฆํ ๊ฒฐ๊ณผ๊ฐ ์๋๋๋ค. | |
| ๋ฒ์ฉ typed-decision๊ณผ ๋ฌธ์ ๋จ์ DLP ๋ถ๋ฅ๋ฅผ ์ง์ํฉ๋๋ค. DLP์์๋ ๋ฏผ๊ฐ์ ๋ณด ์ ๋ฌด๋ฅผ ํ๋จํ๋ฉฐ finding ์์นยท๊ฐ์ยท์ ํ์ ์ถ์ถํ์ง ์์ต๋๋ค. choice๋ ์ด๋ฆ ์๋ ์ ํ์ง, noul์ false/true criteria์ true ํ๋ฅ , score๋ ์์๊ฐ ์๋ ๋ชฉ๋ก์ ์ฌ์ฉํฉ๋๋ค. score๋ ์ฐ์ํ ์ ์ ๋์ 0๋ถํฐ ์์ํ๋ ์ ํ ์ธ๋ฑ์ค์ ๊ฐ ์ธ๋ฑ์ค์ ํ๋ฅ ์ ๋ฐํํฉ๋๋ค. confidence๋ ์ต๋ ์ ํ์ง ํ๋ฅ ์ด๋ฉฐ ์ค์ธก ์ ๋ต๋ฅ ์ด ์๋๋๋ค. ํ ์คํธ๋ฅผ ์์ฑํ์ง ์์ผ๋ฉฐ ์์ ๋๋ฉ์ธ์์์ ์ ๋ขฐ๋๋ฅผ ๋ณด์ฅํ์ง ์์ต๋๋ค. | |
| ๊ฒ์ฆ ์ฅ๋น๋ NVIDIA H200/CUDA์ ๋๋ค. CPUยท๋ค๋ฅธ ๋ฐํ์์ ์ฑ๋ฅ์ ๊ฒ์ฆํ์ง ์์์ต๋๋ค. ์ ์ฉ ์ฝ๋ ์คํ์๋ trust_remote_code=True๊ฐ ํ์ํฉ๋๋ค. | |
| ## ๋ผ์ด์ ์ค์ ์์ฒ ํ์ | |
| QueryPie์ ํ์ต๋ ์์ ๋ถ(๋ณํฉ LoRA ํฌํจ)ยทpointer headยท์ ์ฉ ์ฝ๋์๋ QueryPie AI Research License v1.0์ ์ ์ฉํฉ๋๋ค. ์๋ Qwen/Gemma ๊ธฐ๋ฐ ๊ฐ์ค์นยทtokenizer์๋ Apache-2.0์ ์ ์งํ๋ฉฐ, ๊ทธ ์์ฒ ๋ผ์ด์ ์ค๋ก ์ด๋ฏธ ๋ถ์ฌ๋ ๊ถ๋ฆฌ๋ ์ ํํ์ง ์์ต๋๋ค. ๊ตฌ์ฑ ์์๋ณ ๋ฒ์๋ [THIRD_PARTY_LICENSES.md](THIRD_PARTY_LICENSES.md), ์๋ฌธ์ [LICENSES/Apache-2.0.txt](LICENSES/Apache-2.0.txt), ์์ฒ ํ์๋ NOTICE๋ฅผ ์ฐธ์กฐํ์ธ์. ํ์ต๋ฐ์ดํฐ ์์ฒด๋ฅผ ์ฌ๋ผ์ด์ ์คํ๊ฑฐ๋ ๋ฐฐํฌํ์ง ์์ต๋๋ค. | |
| ๊ฐ์ธ์ ๋น์์ ์ ์ฐ๊ตฌยท์คํ ๋ฐ ๋น์์ ์ ํ์ ์ฐ๊ตฌยทํ๊ฐ๋ฅผ ํ์ฉํฉ๋๋ค. ์์ ์ ์ด์ฉ์๋ QueryPie์ ์ฌ์ ์๋ฉด ํ๊ฐ ๋๋ ๋ณ๋์ ์์ ์ฉ ๋ผ์ด์ ์ค ๊ณ์ฝ์ด ํ์ํฉ๋๋ค. ์์ ์ ์ด์ฉ์ ํฌ๋งํ๋ ๊ฒฝ์ฐ [QueryPie์ ๋ฌธ์ํด ์ฃผ์ธ์](https://www.querypie.com/ko/contact-us). ๊ธฐ์ ์ ๋ฌดยท์ ํ ๊ฐ๋ฐยท์์ ๋ชฉ์ PoC๋ ๋ฌด๋ฃ ์ฐ๊ตฌ ํ์ฉ ๋ฒ์์ ํฌํจ๋์ง ์์ต๋๋ค. ํฌํจ๋ ์ 3์ ๊ธฐ๋ฐ ๋ชจ๋ธ์๋ ๊ฐ ์์ฒ ๋ผ์ด์ ์ค๊ฐ ์ ์ฉ๋ฉ๋๋ค. | |
| ๋ด๋ถ ์์ฐ ๋๋ฝ์ ๋ง๊ธฐ ์ํด generic save_pretrained()๋ ๋นํ์ฑํํ์ต๋๋ค. ์ ์ฅ์ ์ ์ฒด๋ฅผ ๋ณต์ฌํ๊ฑฐ๋ ๋ค์ด๋ก๋ํ์ธ์. ํจํค์ง ๊ฒ์ฆ์ validation.json๊ณผ MANIFEST.sha256์ ๊ธฐ๋ก๋ฉ๋๋ค. | |
| ## ๋ฐฐํฌ ๊ฒ์ฆ | |
| | ๋น๊ต | ์ต๋ ํ๋ฅ ์ฐจ์ด | ์ ํ ๊ฒฐ๊ณผ ๋ณํ / 9๋ฌธํญ | | |
| |---|---:|---:| | |
| | ์๋ณธ BF16 โ ๋ณํฉ BF16 | 0.00107431 | 0 | | |
| | ์ ์ฅ๋ ๋ชจ๋ธ โ ์ฌ๋ก๋ฉ ๋ชจ๋ธ | 0.00000000 | 0 | | |
| [validation.json](validation.json) ยท [MANIFEST.sha256](MANIFEST.sha256) | |