v3: multilingual (zh/en/yue) + 3500 code instructions, lr 1e-4

.ms_upload_cache

@@ -0,0 +1 @@
+{"version": 3, "repo_id": "whcl412/mlx-LycheeAI-coder-1.7b", "files": {"README.md|1787115032.7812254|3561": {"hash": "6ad884fb489616ed366d94ebeca1bc77920afbd54e6d9ad2accc5e30112c419e", "size": 3561, "status": "c"}, "LICENSE|1787115032.784774|11358": {"hash": "cfc7749b96f63bd31c3c42b5c471bf756814053e847c10f3eb003417bc523d30", "size": 11358, "status": "c"}, "chat_template.jinja|1787113458.8275971|4168": {"hash": "a55ee1b1660128b7098723e0abcd92caa0788061051c62d51cbe87d9cf1974d8", "size": 4168, "status": "c"}, "config.json|1787113458.8271892|1021": {"hash": "60eef70aeb7fa7d1f9a6d45069cc7ff0f5a11139155a96aaf9d3991c5d24e58a", "size": 1021, "status": "c"}, "generation_config.json|1787113458.8631234|239": {"hash": "2325da0f15bb848e018c5ae071b7943332e9f871d6b60e2ed22ca97d4cb993d2", "size": 239, "status": "c"}, "model.safetensors.index.json|1787113458.8270242|49771": {"hash": "b2e5b0437ba3dd97c262018713af2fea5c010a8a95d6e24ee6dd045f4cac8ce0", "size": 49771, "status": "c"}, "tokenizer_config.json|1787113458.8277507|729": {"hash": "ee8f6d44bf2353e6d3686c3adaf70e1ccfe9e6ed6822d0ab2f28cafdd7754792", "size": 729, "status": "c"}, "tokenizer.json|1787113458.8620355|11422650": {"hash": "be75606093db2094d7cd20f3c2f385c212750648bd6ea4fb2bf507a6a4c55506", "size": 11422650, "status": "c"}, "model.safetensors|1787113458.825373|968080210": {"hash": "fd05d1a334e50fd7a2ed822471cf60b1f1507927e595248e3490d7ac7b21463c", "size": 968080210, "status": "c"}}}

README.md

@@ -2,6 +2,7 @@
 language:
 - zh
 - en
+- yue
 license: apache-2.0
 base_model: Qwen/Qwen3-1.7B
 base_model_relation: finetune
@@ -14,9 +15,12 @@ tags:
 - code
 - lychee
 - finetune
+- multilingual
 datasets:
 - sahil2801/CodeAlpaca-20k
-- github-code-corpus
+- shibing624/alpaca-zh
+- tatsu-lab/alpaca
+- hon9kon9ize/yue-alpaca-chat
 ---
 
 # mlx-LycheeAI-coder-1.7b
@@ -39,11 +43,14 @@ datasets:
 
 ## 训练细节
 
-- **训练数据**：
-  - [CodeAlpaca-20k](https://huggingface.co/datasets/sahil2801/CodeAlpaca-20k)（代码指令，取 2000 条）
-  - 精选 GitHub 高质量开源仓库源码（requests、fastapi、zod、express、guava、Alamofire、gin、redis、nlohmann/json、fmt 等，取 1000 片段）
-- **超参数**：学习率 2e-4，batch size 2，1500 步，LoRA rank 16
-- **身份设定**：训练时通过 system prompt 固定模型身份为"由 Qwen3-1.7B 微调而来"
+- **训练数据**（共 5724 条，混合多语言）：
+  - [CodeAlpaca-20k](https://huggingface.co/datasets/sahil2801/CodeAlpaca-20k)（代码指令 3500 条，重点）
+  - 中文对话 800 条（[alpaca-zh](https://huggingface.co/datasets/shibing624/alpaca-zh)）
+  - 英语对话 800 条（[Alpaca](https://huggingface.co/datasets/tatsu-lab/alpaca) 英文版）
+  - 粤语对话 600 条（[yue-alpaca-chat](https://huggingface.co/datasets/hon9kon9ize/yue-alpaca-chat)）
+  - 身份问答 24 条（中/英/粤，强化身份记忆）
+- **超参数**：学习率 1e-4，batch size 2，4000 步，LoRA rank 16
+- **身份设定**：通过 system prompt + 身份问答样本，固定模型身份为「LycheeAI-coder-1.7b，由 Qwen3-1.7B 微调而来」
 
 ## 使用方式
 
@@ -65,7 +72,7 @@ mlx_lm.generate --model LycheeAI-coder-1.7b --prompt "写一个二分查找" --m
 
 ## ⚠️ 已知问题
 
-- **通用对话体验不佳**：本模型使用纯代码指令数据微调，通用闲聊（问候、天气、日常问答等）能力有所退化，可能出现答非所问、回复英文或复读训练数据片段的情况。**建议仅用于代码相关任务**（代码生成、补全、解释、改 bug），日常对话请使用通用聊天模型。
+- **对话能力有限**：本模型定位为**代码优先**的编程助手。虽已通过混合数据（中/英/粤语对话）缓解了纯代码微调导致的对话退化，但作为 1.7B 小模型，通用对话的深度与准确性仍不如专门的大规模聊天模型。生成时可能残留空的 `<think>` 标记（Qwen3 思考模式的痕迹），可忽略或由客户端过滤。
 
 ## 预期用途与局限
 

model.safetensors

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:2737af60ba3c1cf902ae1a76d2b7f8f205c23907f1c5f927e7eeb79c1677eec7
+oid sha256:fd05d1a334e50fd7a2ed822471cf60b1f1507927e595248e3490d7ac7b21463c
 size 968080210