moe-expert-graphrag-4b-v4

Kleines Experten-Modell fรผr das MoE-Sovereign-System, Rolle graphrag (Cypher, Neo4j 5). Basis: Qwen/Qwen3.5-4B (Qwen3.5-4B (hybrid linear/full attention)). Datei: moe-expert-graphrag-4b-v4-Q4_K_M.gguf (Q4_K_M, getestet mit KV-Cache q4_0 im Dorf-Standard).

Training

SFT-Rolle graphrag-v3 (LoRA r32), dann 100 Schritte GRPO mit Neo4j-Ausfรผhrungsbelohnung (700 prozedurale Aufgaben, 3 Graphvokabulare). Training auf LUMI-G (LoRA, TRL-GRPO, Belohnung = ausfรผhrungsgeprรผftes Ergebnis mit Teilkredit 0 / 0,1+0,6ยทZeilenรผberdeckung / 1,0). Das Wissen steckt nicht im Modell: KB-first, Fakten kommen aus der Wissensbasis.

Messung (harter, ausfรผhrungsgeprรผfter Test, bestandene Aufgaben greedy / Sampling Seed 1)

graphrag 26 / 21 von 35 (Vorgรคnger graphrag-v3: 23 / 18); datainfra 21 / 21 von 38; precision 17 / 15 von 36.

Der Test besteht aus 109 selbst geschriebenen Aufgaben (datainfra 38 gegen PostgreSQL 17, graphrag 35 gegen Neo4j 5.26, precision 36). Unterschiede unter 3 Aufgaben sind Rauschen.

Einschrรคnkungen

  • Gemessen in bf16 auf LUMI-G, nicht in Q4_K_M; die Messung der Q4_K_M-Datei steht aus.
  • Die GRPO-Belohnung lief gegen PostgreSQL 16.2 bzw. Neo4j 5.26 mit prozeduralen Aufgaben, der Test gegen PostgreSQL 17.
  • Die Spezialisierung kostet andere Rollen Leistung (siehe Zahlen oben). Kleine Stichproben, ein Training je Modell.
  • Ohne Wissensbasis erfinden Experten Fakten; nur mit KB-Kontext einsetzen.

SHA-256 der GGUF-Datei: b1fea20e75636c13630710ed85d2ccf87d1ce25383ac3dbd60c32e4543a0ee45

Downloads last month
48
GGUF
Model size
4B params
Architecture
qwen35
Hardware compatibility
Log In to add your hardware

4-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. ๐Ÿ™‹ Ask for provider support

Model tree for h3rb3rn/moe-expert-graphrag-4b-v4

Finetuned
Qwen/Qwen3.5-4B
Quantized
(685)
this model