v13: switchable thinking (A+B toggle, difficulty-graded CoT)
Browse files- README.md +3 -117
- model.safetensors +1 -1
README.md
CHANGED
|
@@ -1,121 +1,7 @@
|
|
| 1 |
---
|
| 2 |
-
language:
|
| 3 |
-
|
| 4 |
-
- en
|
| 5 |
-
- yue
|
| 6 |
-
license: apache-2.0
|
| 7 |
-
base_model: Qwen/Qwen3-1.7B
|
| 8 |
-
base_model_relation: finetune
|
| 9 |
-
library_name: mlx-lm
|
| 10 |
pipeline_tag: text-generation
|
| 11 |
tags:
|
| 12 |
-
-
|
| 13 |
-
- coder
|
| 14 |
-
- lora
|
| 15 |
-
- code
|
| 16 |
-
- lychee
|
| 17 |
-
- finetune
|
| 18 |
-
- multilingual
|
| 19 |
-
datasets:
|
| 20 |
-
- sahil2801/CodeAlpaca-20k
|
| 21 |
-
- shibing624/alpaca-zh
|
| 22 |
-
- tatsu-lab/alpaca
|
| 23 |
-
- hon9kon9ize/yue-alpaca-chat
|
| 24 |
---
|
| 25 |
-
|
| 26 |
-
# mlx-LycheeAI-coder-1.7b
|
| 27 |
-
|
| 28 |
-
> **当前版本:V12**(思考修复版)
|
| 29 |
-
|
| 30 |
-
**mlx-LycheeAI-coder-1.7b** 是一个基于 [Qwen3-1.7B](https://huggingface.co/Qwen/Qwen3-1.7B) 通过 **QLoRA(4-bit)微调**而来的编程助手模型。V12 版本经过十二轮增量微调,在代码能力(9 种语言)与多语言对话(中/英/粤)、情感共情、场景感知回答、可开关思考之间取得均衡,并在 V12 重点修复了 GGUF 版思考退化问题,擅长编写清晰、正确、可维护的代码。
|
| 31 |
-
|
| 32 |
-
> ⚠️ **格式说明**:本仓库提供的是 **MLX 格式**模型(`mlx` 前缀即表示此含义),仅支持在 **Apple Silicon Mac** 上通过 [MLX-LM](https://github.com/ml-explore/mlx-lm) 加载,**不兼容** HuggingFace transformers(PyTorch)、Windows/Linux、以及 Ollama(GGUF)。如需跨平台(Ollama / llama.cpp / Windows / Linux)版本,请使用 **GGUF 版**:
|
| 33 |
-
> - HuggingFace: [whcl412/LycheeAI-coder-1.7b-GGUF](https://huggingface.co/whcl412/LycheeAI-coder-1.7b-GGUF)
|
| 34 |
-
> - ModelScope: [whcl412/LycheeAI-coder-1.7b-GGUF](https://modelscope.cn/models/whcl412/LycheeAI-coder-1.7b-GGUF)
|
| 35 |
-
|
| 36 |
-
## 模型信息
|
| 37 |
-
|
| 38 |
-
| 项目 | 说明 |
|
| 39 |
-
|------|------|
|
| 40 |
-
| 基座模型 | Qwen/Qwen3-1.7B |
|
| 41 |
-
| 微调方法 | QLoRA(4-bit 量化 + LoRA,rank 16,16 层) |
|
| 42 |
-
| 训练框架 | MLX-LM(Apple Silicon) |
|
| 43 |
-
| 许可 | Apache 2.0(跟随基座) |
|
| 44 |
-
| 模型大小 | ~968MB(4-bit 量化) |
|
| 45 |
-
|
| 46 |
-
## 训练细节
|
| 47 |
-
|
| 48 |
-
- **第一轮(代码专项)**:
|
| 49 |
-
- [CodeAlpaca-20k](https://huggingface.co/datasets/sahil2801/CodeAlpaca-20k)(代码指令 3500 条,重点)
|
| 50 |
-
- 中文对话 800 条([alpaca-zh](https://huggingface.co/datasets/shibing624/alpaca-zh))
|
| 51 |
-
- 英语对话 800 条([Alpaca](https://huggingface.co/datasets/tatsu-lab/alpaca) 英文版)
|
| 52 |
-
- 粤语对话 600 条([yue-alpaca-chat](https://huggingface.co/datasets/hon9kon9ize/yue-alpaca-chat))
|
| 53 |
-
- 身份问答 24 条(中/英/粤,强化身份记忆)
|
| 54 |
-
- 共 5724 条,学习率 1e-4,batch size 2,4000 步,LoRA rank 16
|
| 55 |
-
- **第二轮(日常对话增量微调)**:
|
| 56 |
-
- 60 条日常对话(中文 32 / 英语 16 / 粤语 12),短问短答、口语化,让模型日常聊天时回复简短自然、不啰嗦
|
| 57 |
-
- 从第一轮权重续训(resume),学习率 5e-5,batch size 2,60 步
|
| 58 |
-
- **第三轮(多语言项目 + 场景感知 + emoji)**:
|
| 59 |
-
- 150 条数据:多语言小型项目 90 条(Python 20 / C 10 / C++ 10 / C# 10 / HTML 前端 10 / Java 10 / JavaScript 10 / Swift 5 / Go 5)+ 场景感知对话 60 条(简短 40 + 长篇 20,中英粤)
|
| 60 |
-
- 让模型学会「看场景决定说多说少」(日常闲聊简短带 emoji,技术/代码问题详细完整),并能写多种语言的小型项目
|
| 61 |
-
- 从第二轮权重续训(resume),学习率 5e-5,batch size 2,150 步
|
| 62 |
-
- **第四轮(情感共情 + 格式感知 + 多轮 + 复合逻辑)**:
|
| 63 |
-
- 120 条:情感共情 40 + 格式感知 21(区分「解释概念用纯文字」vs「写代码用代码块」)+ 多轮对话 10 + 复合逻辑对比 11 + 纯代码 18 + 锚点 20
|
| 64 |
-
- 修复评测反馈的四个短板(复合逻辑出错、闲聊乱用代码块、缺情感共情、缺多轮语义追踪)
|
| 65 |
-
- 从第三轮权重续训,学习率 5e-5,batch size 2,120 步
|
| 66 |
-
- **第五轮(代码正确性 + 分场合安慰)**:
|
| 67 |
-
- v6.1:133 条(正确代码 79 条覆盖 9 语言 + bug 修复 20 + 全面发展 34),提升代码正确性、减少 bug
|
| 68 |
-
- v6.2:26 条(该安慰 8 + 不该安慰 12 + 锚点 6),学会分场合安慰(明确负面情绪才安慰,中性日常简短回应)
|
| 69 |
-
- 从第四轮权重续训,学习率 5e-5
|
| 70 |
-
- **第六轮(可开关思考)**:
|
| 71 |
-
- 159 条:思考模式 80(数学/逻辑/代码调试/多步推理,assistant 输出 `<think>推理</think>` + 答案)+ 直答模式 49(`/no_think` 开头直接答)+ 锚点 30
|
| 72 |
-
- 让模型学会「可开关思考」:正常问会先思考再答,加 `/no_think` 直接答
|
| 73 |
-
- 从第五轮权重续训,学习率 5e-5,160 步
|
| 74 |
-
- **第七轮(纠偏身份过拟合 + 按难度调整思考 + 网络用语上下文)**:
|
| 75 |
-
- 100 条:常识纠偏+网络用语 25(ChatGPT=OpenAI、xswl=笑死我了 等)+ 身份 vs 常识区分 10 + 诚实兜底 6 + 按难度调整思考 30 + 网络用语上下文 10 + 锚点 15
|
| 76 |
-
- 修复「被问 XX 是什么就套身份模板」的过拟合问题,学会区分「我是谁」和「别人是谁」,并诚实说「不知道」
|
| 77 |
-
- 从第六轮权重续训,学习率 5e-5,100 步
|
| 78 |
-
- **第八轮(拉回代码能力)**:
|
| 79 |
-
- 86 条:完整代码��目 39(含 HTML 计算器完整版)+ 代码调试 15 + 难题思考 10 + 常识纠偏保留 10 + 锚点 15
|
| 80 |
-
- 修复第七轮纠偏数据(短文本过多)导致的代码能力退化
|
| 81 |
-
- 从第七轮权重续训,学习率 5e-5,90 步
|
| 82 |
-
- **第九轮(最终均衡版,V10)**:
|
| 83 |
-
- 200 条:代码 75(完整项目 45 + 调试 20 + 概念 10)+ 情感分场合 25 + 日常简短 20 + 常识百科 20 + 难题思考 15 + 多语言 15 + 网络用语 10 + 身份 10 + 诚实兜底 10
|
| 84 |
-
- 整合前八轮所有能力,做最终均衡,目标最大化 1.7B 潜力
|
| 85 |
-
- 从第八轮权重续训,学习率 5e-5,200 步
|
| 86 |
-
- **第十轮(均衡版加强思考,V11)**:
|
| 87 |
-
- 250 条:完整代码项目 50 + 代码调试 15(带思考)+ 难题思考 35(数学 20 + 逻辑 15)+ 简单题直答 25 + 情感 25 + 日常 25 + 多语言 20 + 常识 20 + 身份 15 + 网络 10 + 诚实 10
|
| 88 |
-
- 从 v10 续训,学习率 5e-5,250 步
|
| 89 |
-
- **第十一轮(思考修复版,V12)**:
|
| 90 |
-
- 150 条:真实分步推理思考题 60(数学 15 + 逻辑 15 + 代码推理 15 + 常识推理 10 + 开关演示 5)+ 锚点 90(代码 30 + 多语言 15 + 常识 12 + 日常 12 + 情感 10 + 身份 6 + 网络 3 + 诚实 2)
|
| 91 |
-
- 把思考样本占比从 V11 的 20% 提到 36.7%,修复 GGUF 版思考退化(空 `<think>` 壳)问题
|
| 92 |
-
- 从 v11 续训,学习率 5e-5,150 步
|
| 93 |
-
- **身份设定**:通过 system prompt + 身份问答样本,固定模型身份为「LycheeAI-coder-1.7b,由 Qwen3-1.7B 微调而来」
|
| 94 |
-
|
| 95 |
-
## 使用方式
|
| 96 |
-
|
| 97 |
-
### MLX-LM 加载
|
| 98 |
-
|
| 99 |
-
```python
|
| 100 |
-
from mlx_lm import load, generate
|
| 101 |
-
|
| 102 |
-
model, tokenizer = load("LycheeAI-coder-1.7b")
|
| 103 |
-
response = generate(model, tokenizer, prompt="用 Python 写一个快速排序", max_tokens=200)
|
| 104 |
-
print(response)
|
| 105 |
-
```
|
| 106 |
-
|
| 107 |
-
### 快速体验
|
| 108 |
-
|
| 109 |
-
```bash
|
| 110 |
-
mlx_lm.generate --model LycheeAI-coder-1.7b --prompt "写一个二分查找" --max-tokens 200
|
| 111 |
-
```
|
| 112 |
-
|
| 113 |
-
## 预期用途与局限
|
| 114 |
-
|
| 115 |
-
- **适用**:代码生成(9 种语言)、代码调试/修复、编程问答、日常多语言对话(中/英/粤)、情感交流、常识问答、可开关思考(难题会先思考再答)
|
| 116 |
-
- **开关思考**:正常提问会输出 `<think>` 推理过程再给答案;在提问前加 `/no_think` 可跳过思考直接回答
|
| 117 |
-
- **局限**:1.7B 参数规模有限,复杂推理、长上下文、冷门知识能力有限;深度思考能力受限于模型容量;GGUF 量化版(Ollama / llama.cpp)在长链多步推理上的准确性会略低于 MLX 版(量化损失)。
|
| 118 |
-
|
| 119 |
-
## 致谢
|
| 120 |
-
|
| 121 |
-
本模型基于 [Qwen3-1.7B](https://huggingface.co/Qwen/Qwen3-1.7B) 微调,训练框架为 [MLX-LM](https://github.com/ml-explore/mlx-lm),训练数据来自 CodeAlpaca 及各开源项目。
|
|
|
|
| 1 |
---
|
| 2 |
+
language: en
|
| 3 |
+
library_name: mlx
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 4 |
pipeline_tag: text-generation
|
| 5 |
tags:
|
| 6 |
+
- mlx
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 7 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
model.safetensors
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
size 968080210
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:c4a2cb493f60bf7a722740c7b23d76859bd766ce5483019e831f89d9ef5ac220
|
| 3 |
size 968080210
|