whcl412 commited on
Commit
e10ea2c
·
verified ·
1 Parent(s): 4a312f5

v13: switchable thinking (A+B toggle, difficulty-graded CoT)

Browse files
Files changed (2) hide show
  1. README.md +3 -117
  2. model.safetensors +1 -1
README.md CHANGED
@@ -1,121 +1,7 @@
1
  ---
2
- language:
3
- - zh
4
- - en
5
- - yue
6
- license: apache-2.0
7
- base_model: Qwen/Qwen3-1.7B
8
- base_model_relation: finetune
9
- library_name: mlx-lm
10
  pipeline_tag: text-generation
11
  tags:
12
- - qwen3
13
- - coder
14
- - lora
15
- - code
16
- - lychee
17
- - finetune
18
- - multilingual
19
- datasets:
20
- - sahil2801/CodeAlpaca-20k
21
- - shibing624/alpaca-zh
22
- - tatsu-lab/alpaca
23
- - hon9kon9ize/yue-alpaca-chat
24
  ---
25
-
26
- # mlx-LycheeAI-coder-1.7b
27
-
28
- > **当前版本:V12**(思考修复版)
29
-
30
- **mlx-LycheeAI-coder-1.7b** 是一个基于 [Qwen3-1.7B](https://huggingface.co/Qwen/Qwen3-1.7B) 通过 **QLoRA(4-bit)微调**而来的编程助手模型。V12 版本经过十二轮增量微调,在代码能力(9 种语言)与多语言对话(中/英/粤)、情感共情、场景感知回答、可开关思考之间取得均衡,并在 V12 重点修复了 GGUF 版思考退化问题,擅长编写清晰、正确、可维护的代码。
31
-
32
- > ⚠️ **格式说明**:本仓库提供的是 **MLX 格式**模型(`mlx` 前缀即表示此含义),仅支持在 **Apple Silicon Mac** 上通过 [MLX-LM](https://github.com/ml-explore/mlx-lm) 加载,**不兼容** HuggingFace transformers(PyTorch)、Windows/Linux、以及 Ollama(GGUF)。如需跨平台(Ollama / llama.cpp / Windows / Linux)版本,请使用 **GGUF 版**:
33
- > - HuggingFace: [whcl412/LycheeAI-coder-1.7b-GGUF](https://huggingface.co/whcl412/LycheeAI-coder-1.7b-GGUF)
34
- > - ModelScope: [whcl412/LycheeAI-coder-1.7b-GGUF](https://modelscope.cn/models/whcl412/LycheeAI-coder-1.7b-GGUF)
35
-
36
- ## 模型信息
37
-
38
- | 项目 | 说明 |
39
- |------|------|
40
- | 基座模型 | Qwen/Qwen3-1.7B |
41
- | 微调方法 | QLoRA(4-bit 量化 + LoRA,rank 16,16 层) |
42
- | 训练框架 | MLX-LM(Apple Silicon) |
43
- | 许可 | Apache 2.0(跟随基座) |
44
- | 模型大小 | ~968MB(4-bit 量化) |
45
-
46
- ## 训练细节
47
-
48
- - **第一轮(代码专项)**:
49
- - [CodeAlpaca-20k](https://huggingface.co/datasets/sahil2801/CodeAlpaca-20k)(代码指令 3500 条,重点)
50
- - 中文对话 800 条([alpaca-zh](https://huggingface.co/datasets/shibing624/alpaca-zh))
51
- - 英语对话 800 条([Alpaca](https://huggingface.co/datasets/tatsu-lab/alpaca) 英文版)
52
- - 粤语对话 600 条([yue-alpaca-chat](https://huggingface.co/datasets/hon9kon9ize/yue-alpaca-chat))
53
- - 身份问答 24 条(中/英/粤,强化身份记忆)
54
- - 共 5724 条,学习率 1e-4,batch size 2,4000 步,LoRA rank 16
55
- - **第二轮(日常对话增量微调)**:
56
- - 60 条日常对话(中文 32 / 英语 16 / 粤语 12),短问短答、口语化,让模型日常聊天时回复简短自然、不啰嗦
57
- - 从第一轮权重续训(resume),学习率 5e-5,batch size 2,60 步
58
- - **第三轮(多语言项目 + 场景感知 + emoji)**:
59
- - 150 条数据:多语言小型项目 90 条(Python 20 / C 10 / C++ 10 / C# 10 / HTML 前端 10 / Java 10 / JavaScript 10 / Swift 5 / Go 5)+ 场景感知对话 60 条(简短 40 + 长篇 20,中英粤)
60
- - 让模型学会「看场景决定说多说少」(日常闲聊简短带 emoji,技术/代码问题详细完整),并能写多种语言的小型项目
61
- - 从第二轮权重续训(resume),学习率 5e-5,batch size 2,150 步
62
- - **第四轮(情感共情 + 格式感知 + 多轮 + 复合逻辑)**:
63
- - 120 条:情感共情 40 + 格式感知 21(区分「解释概念用纯文字」vs「写代码用代码块」)+ 多轮对话 10 + 复合逻辑对比 11 + 纯代码 18 + 锚点 20
64
- - 修复评测反馈的四个短板(复合逻辑出错、闲聊乱用代码块、缺情感共情、缺多轮语义追踪)
65
- - 从第三轮权重续训,学习率 5e-5,batch size 2,120 步
66
- - **第五轮(代码正确性 + 分场合安慰)**:
67
- - v6.1:133 条(正确代码 79 条覆盖 9 语言 + bug 修复 20 + 全面发展 34),提升代码正确性、减少 bug
68
- - v6.2:26 条(该安慰 8 + 不该安慰 12 + 锚点 6),学会分场合安慰(明确负面情绪才安慰,中性日常简短回应)
69
- - 从第四轮权重续训,学习率 5e-5
70
- - **第六轮(可开关思考)**:
71
- - 159 条:思考模式 80(数学/逻辑/代码调试/多步推理,assistant 输出 `<think>推理</think>` + 答案)+ 直答模式 49(`/no_think` 开头直接答)+ 锚点 30
72
- - 让模型学会「可开关思考」:正常问会先思考再答,加 `/no_think` 直接答
73
- - 从第五轮权重续训,学习率 5e-5,160 步
74
- - **第七轮(纠偏身份过拟合 + 按难度调整思考 + 网络用语上下文)**:
75
- - 100 条:常识纠偏+网络用语 25(ChatGPT=OpenAI、xswl=笑死我了 等)+ 身份 vs 常识区分 10 + 诚实兜底 6 + 按难度调整思考 30 + 网络用语上下文 10 + 锚点 15
76
- - 修复「被问 XX 是什么就套身份模板」的过拟合问题,学会区分「我是谁」和「别人是谁」,并诚实说「不知道」
77
- - 从第六轮权重续训,学习率 5e-5,100 步
78
- - **第八轮(拉回代码能力)**:
79
- - 86 条:完整代码��目 39(含 HTML 计算器完整版)+ 代码调试 15 + 难题思考 10 + 常识纠偏保留 10 + 锚点 15
80
- - 修复第七轮纠偏数据(短文本过多)导致的代码能力退化
81
- - 从第七轮权重续训,学习率 5e-5,90 步
82
- - **第九轮(最终均衡版,V10)**:
83
- - 200 条:代码 75(完整项目 45 + 调试 20 + 概念 10)+ 情感分场合 25 + 日常简短 20 + 常识百科 20 + 难题思考 15 + 多语言 15 + 网络用语 10 + 身份 10 + 诚实兜底 10
84
- - 整合前八轮所有能力,做最终均衡,目标最大化 1.7B 潜力
85
- - 从第八轮权重续训,学习率 5e-5,200 步
86
- - **第十轮(均衡版加强思考,V11)**:
87
- - 250 条:完整代码项目 50 + 代码调试 15(带思考)+ 难题思考 35(数学 20 + 逻辑 15)+ 简单题直答 25 + 情感 25 + 日常 25 + 多语言 20 + 常识 20 + 身份 15 + 网络 10 + 诚实 10
88
- - 从 v10 续训,学习率 5e-5,250 步
89
- - **第十一轮(思考修复版,V12)**:
90
- - 150 条:真实分步推理思考题 60(数学 15 + 逻辑 15 + 代码推理 15 + 常识推理 10 + 开关演示 5)+ 锚点 90(代码 30 + 多语言 15 + 常识 12 + 日常 12 + 情感 10 + 身份 6 + 网络 3 + 诚实 2)
91
- - 把思考样本占比从 V11 的 20% 提到 36.7%,修复 GGUF 版思考退化(空 `<think>` 壳)问题
92
- - 从 v11 续训,学习率 5e-5,150 步
93
- - **身份设定**:通过 system prompt + 身份问答样本,固定模型身份为「LycheeAI-coder-1.7b,由 Qwen3-1.7B 微调而来」
94
-
95
- ## 使用方式
96
-
97
- ### MLX-LM 加载
98
-
99
- ```python
100
- from mlx_lm import load, generate
101
-
102
- model, tokenizer = load("LycheeAI-coder-1.7b")
103
- response = generate(model, tokenizer, prompt="用 Python 写一个快速排序", max_tokens=200)
104
- print(response)
105
- ```
106
-
107
- ### 快速体验
108
-
109
- ```bash
110
- mlx_lm.generate --model LycheeAI-coder-1.7b --prompt "写一个二分查找" --max-tokens 200
111
- ```
112
-
113
- ## 预期用途与局限
114
-
115
- - **适用**:代码生成(9 种语言)、代码调试/修复、编程问答、日常多语言对话(中/英/粤)、情感交流、常识问答、可开关思考(难题会先思考再答)
116
- - **开关思考**:正常提问会输出 `<think>` 推理过程再给答案;在提问前加 `/no_think` 可跳过思考直接回答
117
- - **局限**:1.7B 参数规模有限,复杂推理、长上下文、冷门知识能力有限;深度思考能力受限于模型容量;GGUF 量化版(Ollama / llama.cpp)在长链多步推理上的准确性会略低于 MLX 版(量化损失)。
118
-
119
- ## 致谢
120
-
121
- 本模型基于 [Qwen3-1.7B](https://huggingface.co/Qwen/Qwen3-1.7B) 微调,训练框架为 [MLX-LM](https://github.com/ml-explore/mlx-lm),训练数据来自 CodeAlpaca 及各开源项目。
 
1
  ---
2
+ language: en
3
+ library_name: mlx
 
 
 
 
 
 
4
  pipeline_tag: text-generation
5
  tags:
6
+ - mlx
 
 
 
 
 
 
 
 
 
 
 
7
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:aa825d73a74515f0d88407aa8e6c3af39d63093f49ffb903e13bd18f347e33d7
3
  size 968080210
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c4a2cb493f60bf7a722740c7b23d76859bd766ce5483019e831f89d9ef5ac220
3
  size 968080210