infosave
/

Qwen3.8-Flash-Next-Fast-Code-cmf

Text Generation

Mixture of Experts

speculative-decoding

Model card Files Files and versions

infosave commited on 1 day ago

Commit

e7a084f

·

verified ·

1 Parent(s): ab077e6

Card: plain Chinese troubleshooting line

Files changed (1) hide show

README.md +1 -1

README.md CHANGED Viewed

@@ -419,7 +419,7 @@ CMF_QWEN_PROFILE=fast-code.profile cortiq run qwen38-flash-next-fast-code.cmf --
 ### 常见问题
-- **`libnvrtc (CUDA toolkit) was not found`** 或 **`qwen4 cuda: …; staying on the host path`**：安装 CUDA 12.8+，并把其
   `lib64` 加入 `LD_LIBRARY_PATH`。之后日志中会出现 `qwen4 cuda: arena prefilled with …`。
 - **显存不足**：关闭其他使用 GPU 的程序，或把 `CMF_GPU_VRAM_MB` 设小一些。
 - **内存不足 64 GB**：去掉 `CMF_QWEN_CUDA_REG_ALL=1`（必要时也去掉 `CMF_QWEN_CUDA_REG=1`），速度会变慢。

 ### 常见问题
+- 日志出现 `libnvrtc (CUDA toolkit) was not found` 或 `qwen4 cuda: …; staying on the host path`：安装 CUDA 12.8+，并把其
   `lib64` 加入 `LD_LIBRARY_PATH`。之后日志中会出现 `qwen4 cuda: arena prefilled with …`。
 - **显存不足**：关闭其他使用 GPU 的程序，或把 `CMF_GPU_VRAM_MB` 设小一些。
 - **内存不足 64 GB**：去掉 `CMF_QWEN_CUDA_REG_ALL=1`（必要时也去掉 `CMF_QWEN_CUDA_REG=1`），速度会变慢。