Hugging Face's logo

Datasets:
piotrwilam
/
AtlasOpenCoder

DOI:
License:
Dataset card Files
xet
 Community
AtlasOpenCoder / validation /paper2 /C2_PYTHIA_GATE.json
piotrwilam's picture
piotrwilam
AtlasOpenCoder v1: the battery, the artefacts and both papers' manifests
9b7bd53
Raw History Blame Contribute Delete
13.6 kB
{ "what": "the P1 read-site gate recounted on Pythia's GPT-NeoX vocabulary", "rule": "modal anchor piece >= 0.80 of prompts, MARKER KEPT, counted on the indented scopes only (the primary reading), in both twins and on both A and B. The earlier marker-stripped count of 138 is void -- A19/A19a.", "gate": 0.8, "model": "EleutherAI/pythia-1.4b", "revision": "step143000", "anchor_located_by": "character offset of the OpenCoder piece at site_construct_token, advanced past leading space; the Pythia piece covering that character", "n_constructs_scored": 188, "n_indented_rows": 362495, "pass_count_opencoder_recounted": 169, "pass_count_opencoder_in_SPLIT": 169, "pass_count_pythia": 166, "lost_under_pythia": [ "DictComp", "GeneratorExp", "IfExp", "ListComp", "SetComp" ], "gained_under_pythia": [ "AsyncFunctionDef", "FunctionDef" ], "unresolved_rows_by_construct": {}, "shares_pythia": { "AnnAssign": [ 1.0, 0.6314779270633397, 1.0, 0.6173076923076923 ], "ArithmeticError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "Assert": [ 1.0, 1.0, 1.0, 1.0 ], "AssertionError": [ 1.0, 1.0, 1.0, 1.0 ], "Assign": [ 0.9979166666666667, 0.42827868852459017, 1.0, 0.405982905982906 ], "AsyncFor": [ 1.0, 0.8461538461538461, 1.0, 0.821501014198783 ], "AsyncFunctionDef": [ 0.9979166666666667, 0.9978586723768736, 1.0, 1.0 ], "AsyncWith": [ 1.0, 0.8248031496062992, 0.9979166666666667, 0.808641975308642 ], "Attribute": [ 0.4979166666666667, 0.7770833333333333, 0.625, 0.7689075630252101 ], "AttributeError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "AugAssign": [ 0.5, 0.7430683918669131, 0.375, 0.7373358348968105 ], "BaseException": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "BaseExceptionGroup": [ 1.0, 1.0, 1.0, 1.0 ], "BinOp": [ 0.25, 0.5403377110694184, 0.25, 0.5293005671077504 ], "BlockingIOError": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "BoolOp": [ 0.7395833333333334, 1.0, 0.5520833333333334, 1.0 ], "Break": [ 1.0, 1.0, 1.0, 1.0 ], "BrokenPipeError": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "BufferError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "BytesWarning": [ 1.0, 1.0, 1.0, 1.0 ], "Call": [ 0.375, 1.0, 0.5, 0.9956616052060737 ], "ChildProcessError": [ 1.0, 1.0, 1.0, 1.0 ], "ClassDef": [ 1.0, 0.5289256198347108, 1.0, 0.5417515274949084 ], "Compare": [ 0.20833333333333334, 0.5726315789473684, 0.25, 0.5191919191919192 ], "ConnectionAbortedError": [ 0.9958333333333333, 1.0, 0.9958333333333333, 1.0 ], "ConnectionError": [ 1.0, 1.0, 1.0, 1.0 ], "ConnectionRefusedError": [ 1.0, 1.0, 1.0, 1.0 ], "ConnectionResetError": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "Continue": [ 1.0, 1.0, 1.0, 1.0 ], "Delete": [ 1.0, 1.0, 1.0, 1.0 ], "DeprecationWarning": [ 1.0, 1.0, 1.0, 1.0 ], "Dict": [ 0.36875, 0.8319672131147541, 0.37083333333333335, 0.8231578947368421 ], "DictComp": [ 0.575, 0.8858350951374208, 0.51875, 0.9233954451345756 ], "EOFError": [ 1.0, 1.0, 1.0, 1.0 ], "Ellipsis": [ 0.9958333333333333, 1.0, 0.9916666666666667, 1.0 ], "EncodingWarning": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "EnvironmentError": [ 1.0, 1.0, 1.0, 1.0 ], "Exception": [ 1.0, 1.0, 1.0, 1.0 ], "ExceptionGroup": [ 1.0, 1.0, 1.0, 1.0 ], "False": [ 1.0, 1.0, 1.0, 1.0 ], "FileExistsError": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "FileNotFoundError": [ 0.9979166666666667, 1.0, 0.9979166666666667, 1.0 ], "FloatingPointError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "For": [ 1.0, 0.9161676646706587, 1.0, 0.9181636726546906 ], "FunctionDef": [ 0.9979166666666667, 0.997867803837953, 0.9979166666666667, 1.0 ], "FutureWarning": [ 1.0, 1.0, 1.0, 1.0 ], "GeneratorExit": [ 1.0, 1.0, 1.0, 1.0 ], "GeneratorExp": [ 0.6458333333333334, 0.8857715430861723, 0.6395833333333333, 0.9417879417879418 ], "Global": [ 1.0, 1.0, 1.0, 1.0 ], "IOError": [ 1.0, 1.0, 1.0, 1.0 ], "If": [ 1.0, 0.9863813229571985, 1.0, 0.9076620825147348 ], "IfExp": [ 0.6520833333333333, 0.6278586278586279, 0.575, 0.642292490118577 ], "Import": [ 0.9958333333333333, 1.0, 1.0, 1.0 ], "ImportError": [ 1.0, 1.0, 1.0, 1.0 ], "ImportFrom": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "ImportWarning": [ 1.0, 1.0, 1.0, 1.0 ], "IndentationError": [ 1.0, 1.0, 1.0, 1.0 ], "IndexError": [ 1.0, 1.0, 1.0, 1.0 ], "InterruptedError": [ 0.9979166666666667, 1.0, 0.9979166666666667, 1.0 ], "IsADirectoryError": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "KeyError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "KeyboardInterrupt": [ 1.0, 1.0, 1.0, 1.0 ], "Lambda": [ 1.0, 1.0, 1.0, 1.0 ], "List": [ 0.375, 0.6729166666666667, 0.25, 0.56 ], "ListComp": [ 0.63125, 0.9608247422680413, 0.6333333333333333, 0.9320987654320988 ], "LookupError": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "Match": [ 1.0, 1.0, 0.9958333333333333, 1.0 ], "MemoryError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "ModuleNotFoundError": [ 1.0, 1.0, 1.0, 1.0 ], "NameError": [ 1.0, 1.0, 1.0, 1.0 ], "NamedExpr": [ 1.0, 0.9979166666666667, 1.0, 1.0 ], "None": [ 1.0, 0.998015873015873, 1.0, 1.0 ], "Nonlocal": [ 1.0, 1.0, 1.0, 1.0 ], "NotADirectoryError": [ 1.0, 1.0, 1.0, 1.0 ], "NotImplemented": [ 1.0, 1.0, 1.0, 1.0 ], "NotImplementedError": [ 1.0, 1.0, 1.0, 1.0 ], "OSError": [ 1.0, 1.0, 1.0, 1.0 ], "OverflowError": [ 1.0, 1.0, 1.0, 1.0 ], "Pass": [ 1.0, 1.0, 1.0, 1.0 ], "PendingDeprecationWarning": [ 1.0, 1.0, 1.0, 1.0 ], "PermissionError": [ 1.0, 1.0, 1.0, 1.0 ], "ProcessLookupError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "Raise": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "RecursionError": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "ReferenceError": [ 1.0, 1.0, 1.0, 1.0 ], "ResourceWarning": [ 1.0, 1.0, 1.0, 1.0 ], "Return": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "RuntimeError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "RuntimeWarning": [ 1.0, 1.0, 1.0, 1.0 ], "Set": [ 0.6229166666666667, 0.7198364008179959, 0.625, 0.70042194092827 ], "SetComp": [ 0.5895833333333333, 0.9079229122055674, 0.6479166666666667, 0.9210526315789473 ], "Slice": [ 0.75, 0.5642105263157895, 0.75, 0.5604166666666667 ], "Starred": [ 0.625, 0.7630434782608696, 0.5, 0.7139830508474576 ], "StopAsyncIteration": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "StopIteration": [ 1.0, 1.0, 1.0, 1.0 ], "Subscript": [ 0.625, 0.6790890269151139, 0.75, 0.7854166666666667 ], "SyntaxError": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "SyntaxWarning": [ 1.0, 1.0, 1.0, 1.0 ], "SystemError": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "SystemExit": [ 1.0, 1.0, 1.0, 1.0 ], "TabError": [ 1.0, 1.0, 1.0, 1.0 ], "TimeoutError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "True": [ 1.0, 1.0, 1.0, 1.0 ], "Try": [ 1.0, 1.0, 1.0, 1.0 ], "Tuple": [ 0.625, 0.46331236897274636, 0.375, 0.46723044397463004 ], "TypeError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "UnaryOp": [ 0.4979166666666667, 1.0, 0.375, 1.0 ], "UnboundLocalError": [ 1.0, 1.0, 1.0, 1.0 ], "UnicodeDecodeError": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "UnicodeEncodeError": [ 0.9979166666666667, 1.0, 0.9958333333333333, 1.0 ], "UnicodeError": [ 1.0, 1.0, 1.0, 1.0 ], "UnicodeTranslateError": [ 1.0, 1.0, 1.0, 1.0 ], "UnicodeWarning": [ 1.0, 1.0, 1.0, 1.0 ], "UserWarning": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "ValueError": [ 1.0, 1.0, 1.0, 1.0 ], "Warning": [ 0.9958333333333333, 1.0, 1.0, 1.0 ], "While": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "With": [ 0.9979166666666667, 1.0, 0.9979166666666667, 1.0 ], "ZeroDivisionError": [ 1.0, 1.0, 1.0, 1.0 ], "abs": [ 1.0, 1.0, 0.9958333333333333, 1.0 ], "aiter": [ 1.0, 1.0, 1.0, 1.0 ], "all": [ 1.0, 1.0, 1.0, 1.0 ], "anext": [ 1.0, 1.0, 0.9958333333333333, 1.0 ], "any": [ 0.9979166666666667, 1.0, 0.9979166666666667, 1.0 ], "ascii": [ 1.0, 1.0, 0.9958333333333333, 1.0 ], "bin": [ 1.0, 1.0, 1.0, 1.0 ], "bool": [ 1.0, 1.0, 1.0, 1.0 ], "breakpoint": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "bytearray": [ 1.0, 1.0, 1.0, 1.0 ], "bytes": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "callable": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "chr": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "classmethod": [ 1.0, 1.0, 0.9958333333333333, 1.0 ], "compile": [ 1.0, 1.0, 1.0, 1.0 ], "complex": [ 1.0, 1.0, 0.9958333333333333, 1.0 ], "delattr": [ 1.0, 1.0, 1.0, 1.0 ], "dict": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "dir": [ 1.0, 1.0, 1.0, 1.0 ], "divmod": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "enumerate": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "eval": [ 0.9958333333333333, 1.0, 1.0, 1.0 ], "exec": [ 1.0, 1.0, 1.0, 1.0 ], "filter": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "float": [ 1.0, 1.0, 1.0, 1.0 ], "format": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "frozenset": [ 1.0, 1.0, 1.0, 1.0 ], "getattr": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "globals": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "hasattr": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "hash": [ 1.0, 1.0, 1.0, 1.0 ], "hex": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "id": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "input": [ 1.0, 1.0, 1.0, 1.0 ], "int": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "isinstance": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "issubclass": [ 1.0, 1.0, 1.0, 1.0 ], "iter": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "len": [ 1.0, 1.0, 1.0, 1.0 ], "list": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "locals": [ 1.0, 1.0, 1.0, 1.0 ], "map": [ 1.0, 1.0, 1.0, 1.0 ], "max": [ 1.0, 1.0, 1.0, 1.0 ], "memoryview": [ 1.0, 1.0, 1.0, 1.0 ], "min": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "next": [ 1.0, 1.0, 1.0, 1.0 ], "object": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "oct": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "open": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "ord": [ 1.0, 1.0, 1.0, 1.0 ], "pow": [ 1.0, 1.0, 1.0, 1.0 ], "print": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "property": [ 1.0, 1.0, 1.0, 1.0 ], "range": [ 0.9958333333333333, 1.0, 1.0, 1.0 ], "repr": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "reversed": [ 1.0, 1.0, 1.0, 1.0 ], "round": [ 1.0, 1.0, 0.9979166666666667, 1.0 ], "set": [ 1.0, 1.0, 1.0, 1.0 ], "setattr": [ 1.0, 1.0, 1.0, 1.0 ], "slice": [ 1.0, 1.0, 1.0, 1.0 ], "sorted": [ 1.0, 1.0, 0.9958333333333333, 1.0 ], "staticmethod": [ 1.0, 1.0, 1.0, 1.0 ], "str": [ 1.0, 1.0, 1.0, 1.0 ], "sum": [ 1.0, 1.0, 1.0, 1.0 ], "super": [ 1.0, 1.0, 1.0, 1.0 ], "tuple": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "type": [ 0.9979166666666667, 1.0, 1.0, 1.0 ], "vars": [ 1.0, 1.0, 1.0, 1.0 ], "zip": [ 1.0, 1.0, 0.9979166666666667, 1.0 ] }, "minutes": 1.0760279814402263, "provenance": { "inputs": [ "phase_battery/twin{1,2}/*_{A,B}.jsonl.gz", "EleutherAI/pythia-1.4b @ step143000 tokeniser", "OpenCoder-LLM/OpenCoder-1.5B-Base-Checkpoints @ pretrain_iter_0008000 tokeniser" ], "reference": null, "battery_prompt_hash": "570b42db13f8fe5772b8d1a9ad7d55d6fa1279dae5948ad94e8363789bcbc1ad", "code_commit": "1d8310f", "design": "9-Paper-1/2610-18Oct_PAPER-1-Design.md sha256 47f6a664\u2026" } }
{
"what": "the P1 read-site gate recounted on Pythia's GPT-NeoX vocabulary",
"rule": "modal anchor piece >= 0.80 of prompts, MARKER KEPT, counted on the indented scopes only (the primary reading), in both twins and on both A and B. The earlier marker-stripped count of 138 is void -- A19/A19a.",
"gate": 0.8,
"model": "EleutherAI/pythia-1.4b",
"revision": "step143000",
"anchor_located_by": "character offset of the OpenCoder piece at site_construct_token, advanced past leading space; the Pythia piece covering that character",
"n_constructs_scored": 188,
"n_indented_rows": 362495,
"pass_count_opencoder_recounted": 169,
"pass_count_opencoder_in_SPLIT": 169,
"pass_count_pythia": 166,
"lost_under_pythia": [
"DictComp",
"GeneratorExp",
"IfExp",
"ListComp",
"SetComp"
],
"gained_under_pythia": [
"AsyncFunctionDef",
"FunctionDef"
],
"unresolved_rows_by_construct": {},
"shares_pythia": {
"AnnAssign": [
1.0,
0.6314779270633397,
1.0,
0.6173076923076923
],
"ArithmeticError": [
1.0,
1.0,
0.9979166666666667,
1.0
],
"Assert": [
1.0,
1.0,
1.0,
1.0
],
"AssertionError": [
1.0,
1.0,
1.0,
1.0
],
"Assign": [
0.9979166666666667,
0.42827868852459017,
1.0,
0.405982905982906
],
"AsyncFor": [
1.0,
0.8461538461538461,
1.0,
0.821501014198783
],
"AsyncFunctionDef": [
0.9979166666666667,
0.9978586723768736,
1.0,
1.0
],
"AsyncWith": [
1.0,
0.8248031496062992,
0.9979166666666667,
0.808641975308642
],
"Attribute": [
0.4979166666666667,
0.7770833333333333,
0.625,
0.7689075630252101
],
"AttributeError": [
1.0,
1.0,
0.9979166666666667,
1.0
],
"AugAssign": [
0.5,
0.7430683918669131,
0.375,
0.7373358348968105
],
"BaseException": [
0.9979166666666667,
1.0,
1.0,
1.0
],
"BaseExceptionGroup": [
1.0,
1.0,