測定結果はここに貼ってください(仮想モードの予想を正確にするため)

#1
by isichan-ai - opened

Angio で測った結果を、このスレッドに貼ってもらえると助かります。集まった結果は、仮想モード(β)の予想を正確にするのに使います。

貼り方

  1. Angio v1.3.0 以降で LLM を動かして測ります(右上の「測定モード」で 3・5・10分を選ぶと、Angio が自分で質問を送って測ります)
  2. 右上の「結果報告表」を開きます
  3. 「HF に貼る用をコピー」のボタンを押します
  4. このスレッドの一番下のコメント欄に貼り付けて「Comment」を押します(Hugging Face へのログインが要ります)

中身は、部品の名前(GPU・CPU・メモリ)と、測った数字だけです。ファイルの場所・PC の名前・IP アドレスは入りません。貼る前に中身を確かめられます。

特に助かる結果

  • GPU を足す前と後、メモリを増やす前と後など、同じ PC で部品を替えた時の結果(「share_id」が同じなら、同じ PC の結果として組にできます)
  • AMD(Radeon)・Intel(Arc)の GPU での結果(v1.3.0 から使用率と VRAM を読めるようになりました)

Please paste your Angio results here.

  1. Measure with Angio v1.3.0 or later ("測定モード" at the top right runs 3/5/10-minute tests by itself)
  2. Open "結果報告表" (Report) at the top right
  3. Press "HF に貼る用をコピー" (Copy for HF)
  4. Paste it into the comment box at the bottom of this thread and press "Comment" (you need to be logged in)

Only part names and measured speeds are included — no file paths, PC names or IP addresses. Before/after results from the same PC and results from AMD/Intel GPUs are especially helpful.

Angio 測定結果 v1.3.0(2026-10-19)

項目 値
GPU GeForce RTX 4090(24 GB・PCIe 4.0 x16)
CPU 12th Gen Intel(R) Core(TM) i5-12600K
メモリ 127.8 GB(速さの天井 26.7 GB/s)
モデル qwen3.8-flash-next-iq3_s —(—)
Prefill 3151.8 t/s(中央値・11回)
Decode 74.2 t/s(中央値・99回)
詰まり Prefill=4090 GPU / Decode=4090 GPU
{
 "angio": "1.3.0",
 "share_id": "4d167e98",
 "date": "2026-10-19",
 "gpus": [
  {
   "name": "GeForce RTX 4090",
   "vram_gb": 24,
   "pcie": "4.0 x16"
  }
 ],
 "cpu": "12th Gen Intel(R) Core(TM) i5-12600K",
 "cores": 16,
 "ram_gb": 127.8,
 "dram_ceiling_gbs": 26.7,
 "model": {
  "name": "qwen3.8-flash-next-iq3_s",
  "quant": "—",
  "size": "—",
  "ctx": 131072,
  "layers": "—"
 },
 "engine": "Strata 0.1.45",
 "spec": "—",
 "kv": "—",
 "fa": "—",
 "prefill_tps": {
  "median": 3151.8,
  "q1": 3061,
  "q3": 3156.1,
  "samples": 11
 },
 "decode_tps": {
  "median": 74.2,
  "q1": 68.4,
  "q3": 84.1,
  "samples": 99
 },
 "bottleneck": {
  "prefill": {
   "part": "4090 GPU",
   "cap_tps": 3152.1
  },
  "decode": {
   "part": "4090 GPU",
   "cap_tps": 73.8
  }
 }
}

Angio 測定結果 v1.3.0(2026-10-20)

項目 値
GPU Quadro RTX 6000(24 GB・PCIe 3.0 x16)
CPU Intel(R) Xeon(R) Gold 5222 CPU @ 3.80GHz
メモリ 126.7 GB(速さの天井 45.9 GB/s)
モデル orcarouter-qwen3.8-flash-next-uncensored-iq3_xxs —(—)
Prefill 1252.6 t/s(中央値・19回)
Decode 30.4 t/s(中央値・154回)
詰まり Prefill=Quadro RTX 6000 GPU / Decode=Quadro RTX 6000 GPU
{
 "angio": "1.3.0",
 "share_id": "41f1d092",
 "date": "2026-10-20",
 "gpus": [
  {
   "name": "Quadro RTX 6000",
   "vram_gb": 24,
   "pcie": "3.0 x16"
  }
 ],
 "cpu": "Intel(R) Xeon(R) Gold 5222 CPU @ 3.80GHz",
 "cores": 8,
 "ram_gb": 126.7,
 "dram_ceiling_gbs": 45.9,
 "model": {
  "name": "orcarouter-qwen3.8-flash-next-uncensored-iq3_xxs",
  "quant": "—",
  "size": "—",
  "ctx": 262144,
  "layers": "—"
 },
 "engine": "Strata 0.1.45",
 "spec": "—",
 "kv": "—",
 "fa": "—",
 "prefill_tps": {
  "median": 1252.6,
  "q1": 1231.5,
  "q3": 1254.6,
  "samples": 19
 },
 "decode_tps": {
  "median": 30.4,
  "q1": 26.1,
  "q3": 34.7,
  "samples": 154
 },
 "bottleneck": {
  "prefill": {
   "part": "Quadro RTX 6000 GPU",
   "cap_tps": 1288.7
  },
  "decode": {
   "part": "Quadro RTX 6000 GPU",
   "cap_tps": 36.1
  }
 }
}

Sign up or log in to comment