Datasets:
File size: 5,304 Bytes
45a3cc1 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 | """Score predictions on the Korean ScreenSpot grounding set.
Predictions are a JSONL file keyed by ``sample_id``::
{"sample_id": "screenspot::0714_Kaggle_1#2", "point": [0.771, 0.034]}
{"sample_id": "screenspot::0714_Kaggle_1#3", "bbox": [0.40, 0.45, 0.59, 0.49]}
Coordinates may be normalised to [0, 1] or given in screenshot pixels; the
scorer detects which. A prediction hits when its point falls inside the gold
box (``--match point``, the ScreenSpot convention) or when its box reaches the
IoU threshold (``--match iou``).
Usage:
python evaluate.py --pred preds.jsonl [--match iou --iou 0.5]
"""
from __future__ import annotations
import argparse
import json
import os
from collections import defaultdict
def load_jsonl(path: str) -> list[dict]:
with open(path, encoding="utf-8") as fh:
return [json.loads(line) for line in fh if line.strip()]
GRID = 999
def to_grid999(coords, size):
"""예측 좌표 -> 0-999 그리드. 채점은 전부 이 좌표계에서 한다.
골든이 `gold_bbox_999`(0-999 정수)이므로 예측도 같은 격자로 옮겨서 비교한다.
입력 판별:
전부 <= 1.0 -> 0-1 정규화 -> x 999
그 외(> 1.0 포함) -> 스크린샷 픽셀 -> / image_size x 999
0-999 값을 그대로 준 경우도 픽셀 분기를 타지만, 999 이하 값을 픽셀로 보고
나누면 어긋나므로 **예측은 0-1 정규화 또는 픽셀로만 낼 것**(README 참고).
"""
if coords is None:
return None
coords = [float(c) for c in coords]
if all(c <= 1.0 for c in coords):
return [c * GRID for c in coords]
w, h = size
return [c / (w if i % 2 == 0 else h) * GRID for i, c in enumerate(coords)]
def iou(a, b) -> float:
ix1, iy1 = max(a[0], b[0]), max(a[1], b[1])
ix2, iy2 = min(a[2], b[2]), min(a[3], b[3])
if ix2 <= ix1 or iy2 <= iy1:
return 0.0
inter = (ix2 - ix1) * (iy2 - iy1)
area_a = (a[2] - a[0]) * (a[3] - a[1])
area_b = (b[2] - b[0]) * (b[3] - b[1])
return inter / (area_a + area_b - inter)
def hit(pred: dict, gold: dict, match: str, iou_thr: float) -> bool:
"""★채점은 0-999 그리드에서만 한다★ — 골든은 `gold_bbox_999`.
예전에는 픽셀 공간(`gold_bbox`)에서 쟀다. 격자로 옮기면 박스 경계가 그리드에
맞춰 양자화되므로 경계에 걸친 예측의 판정이 달라질 수 있다.
"""
size, box = gold["image_size"], gold["gold_bbox_999"]
if match == "iou":
pred_box = to_grid999(pred.get("bbox"), size)
return bool(pred_box) and iou(pred_box, box) >= iou_thr
point = to_grid999(pred.get("point"), size)
if point is None:
pred_box = to_grid999(pred.get("bbox"), size)
if pred_box is None:
return False
point = [(pred_box[0] + pred_box[2]) / 2, (pred_box[1] + pred_box[3]) / 2]
return box[0] <= point[0] <= box[2] and box[1] <= point[1] <= box[3]
def summarise(counts):
return {
key: {"correct": c, "total": t, "score": round(c / t, 4) if t else None}
for key, (c, t) in sorted(counts.items())
}
def main() -> None:
here = os.path.dirname(os.path.abspath(__file__))
parser = argparse.ArgumentParser()
parser.add_argument("--pred", required=True)
# 기본 골든은 samples_functional.jsonl — 지시문이 요소 이름이 아니라 기능을
# 자연어로 표현한 판이다("로그인하기" vs '"Sign In" 버튼'). 3,319문항
# (3,605 → 4개 영문 사이트 제거 3,482 → 다중 정답 문항 제거 3,319).
# 옛 판(요소 이름 그대로, 3,735문항)은 previous_golden/samples.jsonl 에 있다.
parser.add_argument("--data", default=os.path.join(here, "samples_functional.jsonl"))
parser.add_argument("--match", choices=["point", "iou"], default="point")
parser.add_argument("--iou", type=float, default=0.5)
parser.add_argument("--by-website", action="store_true")
parser.add_argument("--out", default=None)
opts = parser.parse_args()
preds = {p["sample_id"]: p for p in load_jsonl(opts.pred)}
gold_rows = load_jsonl(opts.data)
total_hit = 0
by_type: dict[str, list[int]] = defaultdict(lambda: [0, 0])
by_site: dict[str, list[int]] = defaultdict(lambda: [0, 0])
for gold in gold_rows:
pred = preds.get(gold["sample_id"])
ok = bool(pred) and hit(pred, gold, opts.match, opts.iou)
total_hit += ok
for bucket in (by_type[gold["element_type"]], by_site[gold["website"]]):
bucket[0] += ok
bucket[1] += 1
report = {
"predictions": len(preds),
"match": opts.match,
"iou_threshold": opts.iou if opts.match == "iou" else None,
"grounding_accuracy": {
"correct": total_hit,
"total": len(gold_rows),
"score": round(total_hit / len(gold_rows), 4) if gold_rows else None,
},
"by_element_type": summarise(by_type),
}
if opts.by_website:
report["by_website"] = summarise(by_site)
text = json.dumps(report, ensure_ascii=False, indent=2)
print(text)
if opts.out:
with open(opts.out, "w", encoding="utf-8") as fh:
fh.write(text)
if __name__ == "__main__":
main()
|