JLee0 commited on
Commit
16a930f
·
verified ·
1 Parent(s): a483854

Simplify Online Mind2Web fields and correct CGV to next Saturday

Browse files
README.md CHANGED
@@ -72,7 +72,9 @@ tar -xzf multimodal_mind2web_ko/multimodal_mind2web_ko.tar.gz
72
  After extraction, ScreenSpot has `screenspot_ko/samples.jsonl` and `images/`;
73
  Multimodal Mind2Web has `multimodal_mind2web_ko/steps.jsonl`, `tasks.jsonl`,
74
  `tasks_rewrite.jsonl`, and `images/`. Each JSONL `image` path is relative to
75
- its benchmark directory. Online Mind2Web is a JSON array of task records.
 
 
76
 
77
  ## Load the 10-example previews
78
 
@@ -102,7 +104,7 @@ Preview selection is illustrative and is not intended for reporting benchmark sc
102
  - **Online Mind2Web:** execute tasks on live websites and assess whether
103
  the requested result was achieved. The release excludes 14 date-dependent
104
  tasks from the previous 326-task no-login set. It includes `task_level`
105
- and potentially overlapping `task_type_final` labels. Website content can change.
106
 
107
  Pixel coordinates and normalized `*_norm` fields retain their recorded
108
  conventions. No action vocabulary or coordinate conversion is applied in this release.
 
72
  After extraction, ScreenSpot has `screenspot_ko/samples.jsonl` and `images/`;
73
  Multimodal Mind2Web has `multimodal_mind2web_ko/steps.jsonl`, `tasks.jsonl`,
74
  `tasks_rewrite.jsonl`, and `images/`. Each JSONL `image` path is relative to
75
+ its benchmark directory. Online Mind2Web is a JSON array of task records with exactly five fields:
76
+ `task_id`, `instruction`, `start_url`, `task_level`, and `task_type`.
77
+ `task_type` is a list of labels; its values are preserved from the original task types.
78
 
79
  ## Load the 10-example previews
80
 
 
104
  - **Online Mind2Web:** execute tasks on live websites and assess whether
105
  the requested result was achieved. The release excludes 14 date-dependent
106
  tasks from the previous 326-task no-login set. It includes `task_level`
107
+ and potentially overlapping `task_type` labels. Website content can change.
108
 
109
  Pixel coordinates and normalized `*_norm` fields retain their recorded
110
  conventions. No action vocabulary or coordinate conversion is applied in this release.
online_mind2web_ko/README.md CHANGED
@@ -1,9 +1,10 @@
1
- # online mind2web ko
2
 
3
- 10 examples: `examples/test.parquet` (Hub viewer) and `examples/tasks.jsonl`.
4
 
5
- Full data: `online_mind2web_ko_tasks.json`.
6
 
7
- Credential fields are omitted. The uncompressed JSON contains all 312 tasks.
 
8
 
9
  See the [dataset card](../README.md) for loading and evaluation details.
 
1
+ # online_mind2web_ko
2
 
3
+ 10 examples: `examples/test.parquet` and `examples/tasks.jsonl`.
4
 
5
+ Full benchmark: `online_mind2web_ko_tasks.json` (312 tasks, uncompressed).
6
 
7
+ Each task has exactly five fields: `task_id`, `instruction`, `start_url`,
8
+ `task_level`, and `task_type`. `task_type` is a list of one or more labels.
9
 
10
  See the [dataset card](../README.md) for loading and evaluation details.
online_mind2web_ko/examples/tasks.jsonl CHANGED
@@ -1,10 +1,10 @@
1
- {"task_id": "easy_final_data_0715/local/google_maps_1", "index": 31, "instruction": "이번에 수원에 놀러가는데 수원역 근처에서 밥을 먹어야 해. 구글 맵스에서 수원역 근처 맛집을 검색 후 평점 4.5점 이상인 식당중 가장 위에 나오는 가게 이름 알려줘.", "start_url": "https://www.google.co.kr/maps/?hl=ko&entry=ttu&g_ep=EgoyMDI2MDcxMi4wIKXMDSoASAFQAw%3D%3D", "website": "google.co.kr", "annotation_task_type": "search", "login_required": false, "dataset": "easy_final_data_0715", "task_name": "google_maps_1", "session_id": "20260715171350", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "easy", "task_type_final": ["filter", "ranking", "site_interaction"]}
2
- {"task_id": "easy_final_data_0715/local/daangn_2", "index": 25, "instruction": "돈이 필요해서 아르바이트 일자리를 찾고 있어. 당근마켓에서 서울시 서초구 방배1동에 있는 주방보조/설거지 공고 중 평일에 가능한 아르바이트 한 곳 공고글 보여줘. 만약 방배1동에 없으면 방배2동으로 검색해줘.", "start_url": "https://www.daangn.com/kr/", "website": "daangn.com", "annotation_task_type": "search", "login_required": false, "dataset": "easy_final_data_0715", "task_name": "daangn_2", "session_id": "20260715163046", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "medium", "task_type_final": ["filter", "return_navigation"]}
3
- {"task_id": "easy_final_data_0714/local/ohou_se_2", "index": 14, "instruction": "거실에 소파가 없어서 소파를 사야해. 오늘의 집에서 오늘출발 가능한 2인 소파의 첫번째 상품명을 알려줘 리뷰 많은순으로 가격은 10만원에서 20만원 사이로.", "start_url": "https://ohou.se/", "website": "ohou.se", "annotation_task_type": "search", "login_required": true, "dataset": "easy_final_data_0714", "task_name": "ohou_se_2", "session_id": "20260714151449", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "hard", "task_type_final": ["filter", "ranking"]}
4
- {"task_id": "easy_final_data_0715/local/cgv_4", "index": 23, "instruction": "주말에 혼자 여유롭게 영화를 보려고 해. cgv 사이트에서 상영중인 영화 중 예매율 1위인 영화를 확인해줘. 그리고 이번주 토요일(18일)에 대전cgv에서 상영하는 해당 영화의 시간표를 조회해서, 22시 이후 상영 예정인 관의 상영 시간대와 이름을 모두 알려줘. ", "start_url": "https://cgv.co.kr/", "website": "cgv.co.kr", "annotation_task_type": "login", "login_required": true, "dataset": "easy_final_data_0715", "task_name": "cgv_4", "session_id": "20260715164800", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "hard", "task_type_final": ["filter", "ranking", "return_navigation"]}
5
- {"task_id": "easy_final_data_0715/local/dict_naver_1", "index": 27, "instruction": "부지기수라는 단어가 무슨 말인지 도저히 이해가 안가. 네이버 사전에 부지기수를 검색해주고 무슨 뜻인지 알려줘.", "start_url": "https://dict.naver.com/", "website": "dict.naver.com", "annotation_task_type": "search", "login_required": true, "dataset": "easy_final_data_0715", "task_name": "dict_naver_1", "session_id": "20260715185305", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "medium", "task_type_final": ["information_lookup"]}
6
- {"task_id": "easy_final_data_0715/local/ebsi_1", "index": 28, "instruction": "여름방학 동안 2주 정도 시간을 내서 수학Ⅰ 개념을 처음부터 다시 정리하려고 합니다. EBSi에서 수학Ⅰ 강좌를 찾아보고 기초 개념부터 설명하는 강의 중 하나를 선택해주세요. 강좌 상세 페이지에서 선생님 이름과 전체 강의 수, 첫 번째 강의에서 다루는 내용을 확인해주세요", "start_url": "https://www.ebsi.co.kr/ebs/pot/poti/main.ebs", "website": "ebsi.co.kr", "annotation_task_type": "login", "login_required": true, "dataset": "easy_final_data_0715", "task_name": "ebsi_1", "session_id": "20260715172911", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "hard", "task_type_final": ["information_lookup"]}
7
- {"task_id": "easy_final_data_0715/local/hogang_nono_1", "index": 32, "instruction": "부동산에 요즘 관심이 있어서 보는 중이야. 호갱노노 사이트에서 대전 유성구의 최근 평당가와 거래량이 가장 많은 아파트 이름 알려줘.", "start_url": "https://hogangnono.com/", "website": "hogangnono.com", "annotation_task_type": "login", "login_required": false, "dataset": "easy_final_data_0715", "task_name": "hogang_nono_1", "session_id": "20260715173048", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "medium", "task_type_final": ["filter", "ranking"]}
8
- {"task_id": "easy_final_data_0715/local/mcdonalds_1", "index": 37, "instruction": "햄버거를 먹고 싶은데 내가 새우 알레르기가 있어. 맥도날드 사이트에서 슈비 버거 알레르기 정보를 찾아주고 새우가 있는지 확인해서 말해줘.", "start_url": "https://www.mcdonalds.co.kr/kor/", "website": "mcdonalds.co.kr", "annotation_task_type": "login", "login_required": false, "dataset": "easy_final_data_0715", "task_name": "mcdonalds_1", "session_id": "20260715183041", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "easy", "task_type_final": ["information_lookup"]}
9
- {"task_id": "easy_final_data_0715/local/mega_coffee_1", "index": 38, "instruction": "요즘 카페에서 복숭아 아이스티를 자주 마시는데 당이 많이 들어 살이 찔까봐 걱정돼. 메가커피 사이트에서 복숭아 아이스티의 당류를 확인해서 알려줘.", "start_url": "https://mega-mgccoffee.com/", "website": "mega-mgccoffee.com", "annotation_task_type": "search", "login_required": false, "dataset": "easy_final_data_0715", "task_name": "mega_coffee_1", "session_id": "20260715164103", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "easy", "task_type_final": ["information_lookup"]}
10
- {"task_id": "easy_final_data_0715/local/naver_cafe_1", "index": 43, "instruction": "카페에서 요즘 인기있는 게시글들이 어떤 내용인지 궁금해. 네이버카페에서 인기글 탭에 들어간 다음 실시간 인기글 최상단 글의 제목을 알려줘.", "start_url": "https://section.cafe.naver.com/ca-fe/home", "website": "section.cafe.naver.com", "annotation_task_type": "login", "login_required": true, "dataset": "easy_final_data_0715", "task_name": "naver_cafe_1", "session_id": "20260715192123", "has_trajectory": true, "requires_login": false, "login_reason": null, "task_level": "medium", "task_type_final": ["ranking", "site_interaction"]}
 
1
+ {"task_id": "easy_final_data_0715/local/google_maps_1", "instruction": "이번에 수원에 놀러가는데 수원역 근처에서 밥을 먹어야 해. 구글 맵스에서 수원역 근처 맛집을 검색 후 평점 4.5점 이상인 식당중 가장 위에 나오는 가게 이름 알려줘.", "start_url": "https://www.google.co.kr/maps/?hl=ko&entry=ttu&g_ep=EgoyMDI2MDcxMi4wIKXMDSoASAFQAw%3D%3D", "task_level": "easy", "task_type": ["filter", "ranking", "site_interaction"]}
2
+ {"task_id": "easy_final_data_0715/local/daangn_2", "instruction": "돈이 필요해서 아르바이트 일자리를 찾고 있어. 당근마켓에서 서울시 서초구 방배1동에 있는 주방보조/설거지 공고 중 평일에 가능한 아르바이트 한 곳 공고글 보여줘. 만약 방배1동에 없으면 방배2동으로 검색해줘.", "start_url": "https://www.daangn.com/kr/", "task_level": "medium", "task_type": ["filter", "return_navigation"]}
3
+ {"task_id": "easy_final_data_0714/local/ohou_se_2", "instruction": "거실에 소파가 없어서 소파를 사야해. 오늘의 집에서 오늘출발 가능한 2인 소파의 첫번째 상품명을 알려줘 리뷰 많은순으로 가격은 10만원에서 20만원 사이로.", "start_url": "https://ohou.se/", "task_level": "hard", "task_type": ["filter", "ranking"]}
4
+ {"task_id": "easy_final_data_0715/local/cgv_4", "instruction": "주말에 혼자 여유롭게 영화를 보려고 해. cgv 사이트에서 상영중인 영화 중 예매율 1위인 영화를 확인해줘. 그리고 다음주 토요일에 대전cgv에서 상영하는 해당 영화의 시간표를 조회해서, 22시 이후 상영 예정인 관의 상영 시간대와 이름을 모두 알려줘. ", "start_url": "https://cgv.co.kr/", "task_level": "hard", "task_type": ["filter", "ranking", "return_navigation"]}
5
+ {"task_id": "easy_final_data_0715/local/dict_naver_1", "instruction": "부지기수라는 단어가 무슨 말인지 도저히 이해가 안가. 네이버 사전에 부지기수를 검색해주고 무슨 뜻인지 알려줘.", "start_url": "https://dict.naver.com/", "task_level": "medium", "task_type": ["information_lookup"]}
6
+ {"task_id": "easy_final_data_0715/local/ebsi_1", "instruction": "여름방학 동안 2주 정도 시간을 내서 수학Ⅰ 개념을 처음부터 다시 정리하려고 합니다. EBSi에서 수학Ⅰ 강좌를 찾아보고 기초 개념부터 설명하는 강의 중 하나를 선택해주세요. 강좌 상세 페이지에서 선생님 이름과 전체 강의 수, 첫 번째 강의에서 다루는 내용을 확인해주세요", "start_url": "https://www.ebsi.co.kr/ebs/pot/poti/main.ebs", "task_level": "hard", "task_type": ["information_lookup"]}
7
+ {"task_id": "easy_final_data_0715/local/hogang_nono_1", "instruction": "부동산에 요즘 관심이 있어서 보는 중이야. 호갱노노 사이트에서 대전 유성구의 최근 평당가와 거래량이 가장 많은 아파트 이름 알려줘.", "start_url": "https://hogangnono.com/", "task_level": "medium", "task_type": ["filter", "ranking"]}
8
+ {"task_id": "easy_final_data_0715/local/mcdonalds_1", "instruction": "햄버거를 먹고 싶은데 내가 새우 알레르기가 있어. 맥도날드 사이트에서 슈비 버거 알레르기 정보를 찾아주고 새우가 있는지 확인해서 말해줘.", "start_url": "https://www.mcdonalds.co.kr/kor/", "task_level": "easy", "task_type": ["information_lookup"]}
9
+ {"task_id": "easy_final_data_0715/local/mega_coffee_1", "instruction": "요즘 카페에서 복숭아 아이스티를 자주 마시는데 당이 많이 들어 살이 찔까봐 걱정돼. 메가커피 사이트에서 복숭아 아이스티의 당류를 확인해서 알려줘.", "start_url": "https://mega-mgccoffee.com/", "task_level": "easy", "task_type": ["information_lookup"]}
10
+ {"task_id": "easy_final_data_0715/local/naver_cafe_1", "instruction": "카페에서 요즘 인기있는 게시글들이 어떤 내용인지 궁금해. 네이버카페에서 인기글 탭에 들어간 다음 실시간 인기글 최상단 글의 제목을 알려줘.", "start_url": "https://section.cafe.naver.com/ca-fe/home", "task_level": "medium", "task_type": ["ranking", "site_interaction"]}
online_mind2web_ko/examples/test.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:26b5aabbe8728b78d233a54521814ac3bc505505adc48c2551462f4d59cfcb79
3
- size 10513
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:37459b0381e2983d604c18033901281612806d45df8585a5f78ffdccd21f0fad
3
+ size 5932
online_mind2web_ko/online_mind2web_ko_tasks.json CHANGED
The diff for this file is too large to render. See raw diff