1.56 TB
355,530 files
Updated 8 days ago
Name
Size
README.md452 Bytes
xet
__init__.py1.11 kB
xet
backend.py101 kB
xet
config.py12.6 kB
xet
lora.py67.7 kB
xet
loss.py1.91 kB
xet
residency.py1.71 kB
xet
vllm_adapter.py4.86 kB
xet
vllm_http.py17.3 kB
xet
README.md

本地 GPU 后端

backend.py 实现模型分片、LoRA 更新、优化器与 checkpoint。 lora.py 包含线性层、MoE expert 与 lm_head 的 LoRA / TP 逻辑。 config.py 校验严格 GPT-OSS 参数。 loss.py 保留求和的 importance-sampling 目标。 vllm_http.py 管理采样 HTTP、adapter 与 sleep。 vllm_adapter.py 导出 vLLM 格式。

训练使用 TP=8,采样三组 TP=2;参数和上下文限制来自 configs/h100_8gpu.yaml。

Total size
1.56 TB
Files
355,530
Last updated
Nov 8
Pre-warmed CDN
US EU US EU

Contributors