DeepLearning101 commited on
Commit
4ca5f81
·
verified ·
1 Parent(s): dc914c1

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +49 -1
README.md CHANGED
@@ -12,4 +12,52 @@ license: agpl-3.0
12
  short_description: AI 在夢裡練功的遞迴自我改進(RSI)× Jev 判別引擎
13
  ---
14
 
15
- Check out the configuration reference at https://huggingface.co/docs/hub/spaces-config-reference
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
12
  short_description: AI 在夢裡練功的遞迴自我改進(RSI)× Jev 判別引擎
13
  ---
14
 
15
+ # Jev-style 判別式決策 POC
16
+
17
+ 讀者可親手體驗的互動展示:輸入一段狀態文字+問題,開源的 Jev-like 模型(jevos,`feder-cr/jev`)直接輸出**機率分佈**——不生成任何文字(`output_tokens=0`)。這正是文章第六節「Jev:System 1 判別引擎」在講的東西。(延遲依硬體而定:repo 公開基準在筆電 CPU 上短請求 26ms;App 會顯示實測延遲)
18
+
19
+ ## 方案一:本地運行(最快,約 3 分鐘)
20
+
21
+ 需求:64 位元 Linux/macOS/Windows,CPU 即可,不需 GPU。
22
+
23
+ ```bash
24
+ # 1. 下載(以 Linux 為例;macOS 用 jev-macos-arm64.tar.gz,Windows 用 jev-windows-x64.zip)
25
+ curl -sL -o jev-linux-x64.tar.gz https://github.com/feder-cr/jev/releases/download/jevos-v3/jev-linux-x64.tar.gz
26
+ curl -sL -o jevos-v3-openvino-int8.zip https://github.com/feder-cr/jev/releases/download/jevos-v3/jevos-v3-openvino-int8.zip
27
+
28
+ # 2. 解壓並啟動(模型約 630MB,解開放 jev/model/)
29
+ tar -xzf jev-linux-x64.tar.gz && cd jev
30
+ unzip ../jevos-v3-openvino-int8.zip # 產生 model/
31
+ ./jev serve # Windows: jev.exe serve
32
+
33
+ # 3. 另開終端機,丟一個是非題
34
+ curl http://127.0.0.1:8017/v1/systemone -H 'Content-Type: application/json' -d '{
35
+ "model": "jev-latest",
36
+ "state": "I was charged twice for the same order.",
37
+ "questions": {"billing": {"type": "noul", "instructions": "Is this a billing problem?"}}}'
38
+ # 回傳 {"answers": {"billing": {"type": "noul", "noul": 0.94}}, "usage": {"input_tokens": 27, "output_tokens": 0}}
39
+ ```
40
+
41
+ ## 方案二:免費部署到 Hugging Face Spaces(讀者免安裝,開網頁就能玩)
42
+
43
+ 需求:一個免費的 huggingface.co 帳號。不需信用卡。
44
+
45
+ 1. 到 <https://huggingface.co/new-space> 新增 Space:名稱自取(例 `jev-poc`)、SDK 選 **Gradio**、可見度選 Public、硬體選 **CPU Basic(免費)**。
46
+ 2. 把本目錄的 `app.py` 和 `requirements.txt` 上傳到該 Space(網頁拖曳或 `git push` 皆可)。
47
+ 3. 等待建置完成。**首次啟動** `app.py` 會自動下載 jevos(約 660MB)並快取在 Space 的 `/data` 持久目錄,約需 2–5 分鐘;之後每次啟動秒開。
48
+ 4. 把 Space 網址貼到文章的「讀者體驗區」即可。
49
+
50
+ 費用:全程免費(CPU Basic 免費額度內;模型快取在 /data 不重複下載)。
51
+
52
+ ## 方案三:直接玩別人架好的
53
+
54
+ * **NanoJev 遊戲實機**(作者已部署):[ViZDoom](https://nanojev-dev.tianyuchen99.chatgpt.site/?autoplay=1)|[Maze & Snake](https://nanojev-dev.tianyuchen99.chatgpt.site/side-by-side?autoplay=1#maze)——看 0.6B 判別模型即時打遊戲,每一幀都是毫秒級決策
55
+ * **RSI-Jev**:[互動 demos](https://shanghua-gao.github.io/RSI-Jev/)|[Colab 一鍵重跑](https://colab.research.google.com/github/Shanghua-Gao/RSI-Jev/blob/main/notebooks/rsi_jev_v4_vl_quickstart.ipynb)(免費 GPU)
56
+ * **CLM-8B**:repo 內附 [Fine-Tuning Tutorial](https://github.com/Contrastive-LM/CLM#fine-tuning-clm-on-your-own-data),可在自己的資料上微調
57
+
58
+ ## 技術說明
59
+
60
+ * 後端 `jevos` 支援 `noul`(是非)、`choice`(多選)、`score`(評分)三種題型,走 TypeSafe Jev 的 wire format(`POST /v1/systemone`)。
61
+ * 多選題在內部會展開成「每選項一個是非題」再正規化;有共同前綴只讀一次,所以 10 個選項也只要約 170ms。
62
+ * 準確率參考(repo 公開基準):2,676 題多選 78.8% 答對;confidence ≥ 0.75 時 95% 正確。
63
+