| """datensatz_ccf.py -- Stufe 2 fuer CCF: jede Logzeile und jeder Protokollpunkt als Episode (Schritt angenommen/abgelehnt, |
| Sekante, Nullstelle, Start), gescheiterte Suchen und Quellterm-Boegen eingeschlossen. Laeuft auf dem Mac (leicht). |
| Aufruf (in bib/ccf/): python3 datensatz_ccf.py <aus_dir>""" |
| import glob |
| import json |
| import os |
| import re |
| import sys |
| import zstandard as zstd |
|
|
| AUS = sys.argv[1] |
| os.makedirs(AUS, exist_ok=True) |
| KV = re.compile(r"([A-Za-z_][A-Za-z0-9_\-()'|/^*]*?)\s*=\s*([-+]?[0-9.]+(?:e[-+]?\d+)?)") |
| ZAHL = {} |
|
|
|
|
| def schreiber(name): |
| f = open(f'{AUS}/{name}', 'wb') |
| return f, zstd.ZstdCompressor(level=10).stream_writer(f) |
|
|
|
|
| def art(z): |
| s = z.strip() |
| if 'nicht konvergiert' in s or s.startswith('Abbruch'): |
| return 'schritt_abgelehnt' |
| if s.startswith('NULLSTELLE') or 'NULLDURCHGANG' in s: |
| return 'kreuzung' |
| if s.startswith('Sekante'): |
| return 'sekante' |
| if s.startswith(('Start', 'Neustart', 'Test', 'Aufbau', 'instabil1')): |
| return 'start' |
| if s.startswith('lambda=') or s.startswith('it '): |
| return 'schritt' if s.startswith('lambda=') else 'newton_iteration' |
| return 'sonstig' |
|
|
|
|
| f, w = schreiber('ccf_logzeilen.jsonl.zst'); n = 0 |
| for pf in sorted(glob.glob('*.log')): |
| lauf = pf[:-4] |
| for i, z in enumerate(open(pf, errors='replace')): |
| if not z.strip(): |
| continue |
| d = dict(datei=pf, lauf=lauf, zeile=i, art=art(z), text=z.rstrip('\n'), |
| felder={k: float(v) for k, v in KV.findall(z)}) |
| w.write((json.dumps(d, ensure_ascii=False) + '\n').encode()); n += 1 |
| w.close(); ZAHL['ccf_logzeilen.jsonl.zst'] = n |
|
|
| f, w = schreiber('ccf_protokollpunkte.jsonl.zst'); n = 0 |
| for pf in sorted(glob.glob('*.json')): |
| try: |
| P = json.load(open(pf)) |
| except ValueError: |
| continue |
| L = P if isinstance(P, list) else [P] |
| for i, p in enumerate(L): |
| w.write((json.dumps(dict(datei=pf, index=i, punkt=p), ensure_ascii=False, default=str) + '\n').encode()); n += 1 |
| w.close(); ZAHL['ccf_protokollpunkte.jsonl.zst'] = n |
|
|
| f, w = schreiber('ccf_dokumente.jsonl.zst'); n = 0 |
| for pf in sorted(glob.glob('*.md')) + sorted(glob.glob('*.py')) + sorted(glob.glob('*.sh')): |
| w.write((json.dumps(dict(datei=pf, text=open(pf, errors='replace').read()), ensure_ascii=False) + '\n').encode()); n += 1 |
| w.close(); ZAHL['ccf_dokumente.jsonl.zst'] = n |
|
|
| json.dump(ZAHL, open(f'{AUS}/manifest_ccf.json', 'w'), indent=1) |
| print(ZAHL) |
|
|
