olmo3-expert-graphrag-7b-v4

Kleines Experten-Modell fรผr das MoE-Sovereign-System, Rolle graphrag (Cypher, Neo4j 5). Basis: allenai/Olmo-3-7B-Instruct (OLMo-3-7B-Instruct). Datei: olmo3-expert-graphrag-7b-v4-Q4_K_M.gguf (Q4_K_M, getestet mit KV-Cache q4_0 im Dorf-Standard).

Training

SFT-Rolle graphrag-v3 (LoRA r128), dann 100 Schritte GRPO mit Neo4j-Ausfรผhrungsbelohnung. Training auf LUMI-G (LoRA, TRL-GRPO, Belohnung = ausfรผhrungsgeprรผftes Ergebnis mit Teilkredit 0 / 0,1+0,6ยทZeilenรผberdeckung / 1,0). Das Wissen steckt nicht im Modell: KB-first, Fakten kommen aus der Wissensbasis.

Messung (harter, ausfรผhrungsgeprรผfter Test, bestandene Aufgaben greedy / Sampling Seed 1)

graphrag 13 / 9 von 35 (graphrag-v3: 9 / 7); datainfra 6 / 5; precision 5 / 8.

Der Test besteht aus 109 selbst geschriebenen Aufgaben (datainfra 38 gegen PostgreSQL 17, graphrag 35 gegen Neo4j 5.26, precision 36). Unterschiede unter 3 Aufgaben sind Rauschen.

Einschrรคnkungen

  • Gemessen in bf16 auf LUMI-G, nicht in Q4_K_M; die Messung der Q4_K_M-Datei steht aus.
  • Die GRPO-Belohnung lief gegen PostgreSQL 16.2 bzw. Neo4j 5.26 mit prozeduralen Aufgaben, der Test gegen PostgreSQL 17.
  • Die Spezialisierung kostet andere Rollen Leistung (siehe Zahlen oben). Kleine Stichproben, ein Training je Modell.
  • Ohne Wissensbasis erfinden Experten Fakten; nur mit KB-Kontext einsetzen.

SHA-256 der GGUF-Datei: 7223105369e7841088b89a0b633f0ef7b267a71af0e73ce5383e871efbb594f3

Downloads last month
36
GGUF
Model size
7B params
Architecture
olmo2
Hardware compatibility
Log In to add your hardware

4-bit

Inference Providers NEW
This model isn't deployed by any Inference Provider. ๐Ÿ™‹ Ask for provider support

Model tree for h3rb3rn/olmo3-expert-graphrag-7b-v4