--- license: apache-2.0 language: - zh - en library_name: transformers tags: - code - chat - 128k-context --- # HakuChat-Code-9B HakuChat 是一个本地部署的中文代码助手,本仓库为 9B 参数全量权重(合并后,未量化)。 ## 能力 - Python 代码生成、补全、函数实现与解释 - 工具调用(calculator / web.search 轨迹) - 长上下文:原生支持 256k,部署配置 128k - 中文对话与身份统一为 HakuChat ## 评测结果(线上 int4 / 128k,temperature=0) | Benchmark | 分数 | 样本数 | |---|---|---| | MMLU | 73.1 | 171 | | C-Eval | 78.85 | 104 | | GSM8K | 86.67 | 60 | | HumanEval (pass@1) | 63.33 | 60 | 口径说明:0-shot 生成式采样,采样数见上表;同类模型多为厂商 5-shot/bf16 成绩,数值仅供量级参考。 ## 使用 ```python from transformers import AutoModelForImageTextToText, AutoTokenizer tok = AutoTokenizer.from_pretrained("KSKOOO/HakuChat-Code-9B") model = AutoModelForImageTextToText.from_pretrained( "KSKOOO/HakuChat-Code-9B", dtype="auto", device_map="auto") ``` 对话模板内置身份设定,调用时无需额外 system prompt。