nguyenhoangtrungg gnuhbear commited on
Commit
71be0e1
·
0 Parent(s):

Duplicate from gnuhbear/ViBioMIR

Browse files

Co-authored-by: Hoang Duy Hưng <gnuhbear@users.noreply.huggingface.co>

.gitattributes ADDED
@@ -0,0 +1,60 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ *.7z filter=lfs diff=lfs merge=lfs -text
2
+ *.arrow filter=lfs diff=lfs merge=lfs -text
3
+ *.avro filter=lfs diff=lfs merge=lfs -text
4
+ *.bin filter=lfs diff=lfs merge=lfs -text
5
+ *.bz2 filter=lfs diff=lfs merge=lfs -text
6
+ *.ckpt filter=lfs diff=lfs merge=lfs -text
7
+ *.ftz filter=lfs diff=lfs merge=lfs -text
8
+ *.gz filter=lfs diff=lfs merge=lfs -text
9
+ *.h5 filter=lfs diff=lfs merge=lfs -text
10
+ *.joblib filter=lfs diff=lfs merge=lfs -text
11
+ *.lfs.* filter=lfs diff=lfs merge=lfs -text
12
+ *.lz4 filter=lfs diff=lfs merge=lfs -text
13
+ *.mds filter=lfs diff=lfs merge=lfs -text
14
+ *.mlmodel filter=lfs diff=lfs merge=lfs -text
15
+ *.model filter=lfs diff=lfs merge=lfs -text
16
+ *.msgpack filter=lfs diff=lfs merge=lfs -text
17
+ *.npy filter=lfs diff=lfs merge=lfs -text
18
+ *.npz filter=lfs diff=lfs merge=lfs -text
19
+ *.onnx filter=lfs diff=lfs merge=lfs -text
20
+ *.ot filter=lfs diff=lfs merge=lfs -text
21
+ *.parquet filter=lfs diff=lfs merge=lfs -text
22
+ *.pb filter=lfs diff=lfs merge=lfs -text
23
+ *.pickle filter=lfs diff=lfs merge=lfs -text
24
+ *.pkl filter=lfs diff=lfs merge=lfs -text
25
+ *.pt filter=lfs diff=lfs merge=lfs -text
26
+ *.pth filter=lfs diff=lfs merge=lfs -text
27
+ *.rar filter=lfs diff=lfs merge=lfs -text
28
+ *.safetensors filter=lfs diff=lfs merge=lfs -text
29
+ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
30
+ *.tar.* filter=lfs diff=lfs merge=lfs -text
31
+ *.tar filter=lfs diff=lfs merge=lfs -text
32
+ *.tflite filter=lfs diff=lfs merge=lfs -text
33
+ *.tgz filter=lfs diff=lfs merge=lfs -text
34
+ *.wasm filter=lfs diff=lfs merge=lfs -text
35
+ *.xz filter=lfs diff=lfs merge=lfs -text
36
+ *.zip filter=lfs diff=lfs merge=lfs -text
37
+ *.zst filter=lfs diff=lfs merge=lfs -text
38
+ *tfevents* filter=lfs diff=lfs merge=lfs -text
39
+ # Audio files - uncompressed
40
+ *.pcm filter=lfs diff=lfs merge=lfs -text
41
+ *.sam filter=lfs diff=lfs merge=lfs -text
42
+ *.raw filter=lfs diff=lfs merge=lfs -text
43
+ # Audio files - compressed
44
+ *.aac filter=lfs diff=lfs merge=lfs -text
45
+ *.flac filter=lfs diff=lfs merge=lfs -text
46
+ *.mp3 filter=lfs diff=lfs merge=lfs -text
47
+ *.ogg filter=lfs diff=lfs merge=lfs -text
48
+ *.wav filter=lfs diff=lfs merge=lfs -text
49
+ # Image files - uncompressed
50
+ *.bmp filter=lfs diff=lfs merge=lfs -text
51
+ *.gif filter=lfs diff=lfs merge=lfs -text
52
+ *.png filter=lfs diff=lfs merge=lfs -text
53
+ *.tiff filter=lfs diff=lfs merge=lfs -text
54
+ # Image files - compressed
55
+ *.jpg filter=lfs diff=lfs merge=lfs -text
56
+ *.jpeg filter=lfs diff=lfs merge=lfs -text
57
+ *.webp filter=lfs diff=lfs merge=lfs -text
58
+ # Video files - compressed
59
+ *.mp4 filter=lfs diff=lfs merge=lfs -text
60
+ *.webm filter=lfs diff=lfs merge=lfs -text
README.md ADDED
@@ -0,0 +1,156 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ pretty_name: Medical Query & Link Corpus
3
+ language:
4
+ - vi
5
+ - en
6
+ - zh
7
+ multilinguality:
8
+ - multilingual
9
+ task_categories:
10
+ - text-retrieval
11
+ size_categories:
12
+ - 1M<n<10M
13
+ tags:
14
+ - medical
15
+ - information-retrieval
16
+ - vietnamese
17
+ - english
18
+ - chinese
19
+ configs:
20
+ - config_name: query
21
+ data_files:
22
+ - split: train
23
+ path: query.parquet
24
+ - config_name: corpus
25
+ data_files:
26
+ - split: train
27
+ path: links_corpus_vi_en_zh.parquet
28
+ ---
29
+
30
+ <div align="center">
31
+ <table align="center" border="0" cellpadding="0" cellspacing="0">
32
+ <tr>
33
+ <td align="center"><a href="https://medkb.tinix.ai/"><img src="figures/MedKB.png" alt="MedKB" width="180"></a></td>
34
+ <td align="center"><a href="https://leaderboard.aiguru.com.vn/"><img src="figures/AI%20Guru.jpg" alt="AI Guru" width="180"></a></td>
35
+ </tr>
36
+ </table>
37
+ <h1> ViBioMIR: A Vietnamese-Centric Multilingual Biomedical Information Retrieval Dataset </h1>
38
+ <h1>MedKB - AI Guru</h1>
39
+ <p>
40
+ <a href="https://www.facebook.com/tinix.vn/"><img src="https://img.shields.io/badge/Facebook-TiniX-1877F2?logo=facebook&logoColor=white" alt="TiniX Facebook"></a>
41
+ <a href="https://medkb.tinix.ai/"><img src="https://img.shields.io/badge/Website-MedKB-00A98F?logo=googlechrome&logoColor=white" alt="MedKB Website"></a>
42
+ <a href="https://www.facebook.com/aiguru.vn/"><img src="https://img.shields.io/badge/Facebook-AI%20Guru-1877F2?logo=facebook&logoColor=white" alt="AI Guru Facebook"></a>
43
+ <a href="https://leaderboard.aiguru.com.vn/"><img src="https://img.shields.io/badge/AI%20Guru-Leaderboard-F5A623?logo=googleanalytics&logoColor=white" alt="AI Guru Leaderboard"></a>
44
+ <a href="https://huggingface.co/tinixai"><img src="https://img.shields.io/badge/Hugging%20Face-TiniX%20AI-FFD21E?logo=huggingface&logoColor=black" alt="TiniX AI on Hugging Face"></a>
45
+ </p>
46
+ </div>
47
+
48
+ ## 1. Giới thiệu
49
+
50
+ Tri thức y sinh hiện nay được phân bố không đồng đều giữa các ngôn ngữ. Mặc dù nguồn dữ liệu tiếng Việt ngày càng được mở rộng, nguồn này vẫn còn hạn chế về chiều sâu và tính chuyên môn. Trong khi đó, tiếng Anh và tiếng Trung sở hữu kho tài nguyên y sinh đồ sộ. Sự chênh lệch này tạo ra một **khoảng cách thông tin y tế** đáng kể, khiến người dùng tiếng Việt gặp nhiều trở ngại khi tiếp cận các bằng chứng y học được công bố bằng ngôn ngữ khác.
51
+
52
+ Xuất phát từ thực trạng đó, bài toán hướng tới xây dựng các hệ thống AI có khả năng truy hồi thông tin y sinh đa ngôn ngữ từ nguồn tiếng Việt, tiếng Anh và tiếng Trung. Với mỗi truy vấn bằng tiếng Việt, hệ thống cần xác định các tài liệu và nội dung liên quan mà không phụ thuộc vào ngôn ngữ của nguồn. Ban Tổ chức cung cấp danh sách URL của tài liệu y sinh tiếng Việt, tiếng Anh và tiếng Trung, trong đó nguồn tiếng Anh gồm các tài liệu thuộc PubMed. Các đội tự thu thập nội dung,
53
+ tiền xử lý, phân đoạn và xây dựng cơ sở tri thức phục vụ truy hồi.
54
+
55
+ ## 2. Tổng quan và thống kê
56
+
57
+ ### Tổng quan query và corpus
58
+
59
+ | Chỉ số | Giá trị |
60
+ |:--|--:|
61
+ | Số query | 1.200 |
62
+ | Số từ trung vị | 18 |
63
+ | Số từ P95 | 84 |
64
+ | Số từ min–max | 5–283 |
65
+ | Tổng số liên kết | 1.220.598 |
66
+ | Số liên kết tiếng Việt | 740.598 |
67
+ | Số liên kết tiếng Anh | 240.000 |
68
+ | Số liên kết tiếng Trung | 240.000 |
69
+
70
+
71
+ ### Phân bố số lượng token theo thể loại
72
+
73
+ ![Phân bố số lượng token theo thể loại](figures/tokens_by_category_without_books.png)
74
+
75
+ ### Phân bố số lượng bản ghi theo năm
76
+
77
+ ![Phân bố số lượng bản ghi theo năm](figures/records_by_year_without_books.png)
78
+
79
+ ### Phân bố độ dài truy vấn
80
+
81
+ ![Phân bố độ dài truy vấn](figures/01_query_length_distribution.png)
82
+
83
+ ## 3. Data Schema
84
+
85
+ ### `query.parquet`
86
+
87
+ | Trường | Kiểu dữ liệu | Mô tả |
88
+ |:--|:--|:--|
89
+ | `id` | `integer` | Mã định danh của truy vấn |
90
+ | `query` | `string` | Nội dung truy vấn y tế bằng tiếng Việt |
91
+
92
+ Ví dụ:
93
+
94
+ ```json
95
+ {
96
+ "id": 1,
97
+ "query": "<string>"
98
+ }
99
+ ```
100
+
101
+ ### `links_corpus_vi_en_zh.parquet`
102
+
103
+ | Trường | Kiểu dữ liệu | Mô tả |
104
+ |:--|:--|:--|
105
+ | `id` | `integer` | Mã định danh của tài liệu trong corpus |
106
+ | `url` | `string` | URL của tài liệu |
107
+
108
+ Ví dụ:
109
+
110
+ ```json
111
+ {
112
+ "id": 1,
113
+ "url": "https://example.com/article"
114
+ }
115
+ ```
116
+
117
+ ## 4. Potential Use Cases
118
+
119
+ - Đánh giá hệ thống truy hồi thông tin y tế với truy vấn tiếng Việt.
120
+ - Xây dựng corpus tài liệu y sinh đa ngôn ngữ Việt–Anh–Trung.
121
+ - Phân loại intent của câu hỏi y tế.
122
+ - Phân tích độ dài, cấu trúc và mức độ phức tạp của truy vấn.
123
+ - Xây dựng các tập đánh giá theo intent, độ dài hoặc ��ặc trưng câu hỏi.
124
+ - Huấn luyện hoặc đánh giá mô hình embedding và semantic search.
125
+ - Nghiên cứu truy hồi xuyên ngôn ngữ giữa tiếng Việt, tiếng Anh và tiếng Trung.
126
+
127
+ ## 5. Quickstart
128
+
129
+ ```python
130
+ import pyarrow.parquet as pq
131
+
132
+ queries = pq.read_table("query.parquet")
133
+ corpus = pq.read_table("links_corpus_vi_en_zh.parquet")
134
+
135
+ print(queries.schema)
136
+ print(queries.slice(0, 5).to_pylist())
137
+
138
+ print(corpus.schema)
139
+ print(corpus.slice(0, 5).to_pylist())
140
+ ```
141
+
142
+ ## 6. License & Citation
143
+
144
+ Bộ dữ liệu được phát hành theo giấy phép [Creative Commons Attribution Non-Commercial 4.0 International (CC BY-NC 4.0)](https://creativecommons.org/licenses/by-nc/4.0/).
145
+
146
+ Theo giấy phép này, người dùng có thể chia sẻ và điều chỉnh bộ dữ liệu cho mục đích phi thương mại, với điều kiện ghi công phù hợp. Vui lòng kiểm tra điều khoản giấy phép và điều khoản của các nguồn dữ liệu liên quan trước khi sử dụng trong sản phẩm, thương mại hóa hoặc môi trường production.
147
+
148
+ Nếu sử dụng bộ dữ liệu này, vui lòng trích dẫn:
149
+
150
+ ```bibtex
151
+ @online{medkb,
152
+ title = {MedKB -- Medical Knowledge Base},
153
+ url = {https://medkb.tinix.ai/},
154
+ urldate = {2026-09-29}
155
+ }
156
+ ```
figures/01_query_length_distribution.png ADDED

Git LFS Details

  • SHA256: 3433d1f9c5b848915948a68f56a096833029b2e6ab86ded9f12db0b3f714e66a
  • Pointer size: 130 Bytes
  • Size of remote file: 64 kB
figures/04_medical_topic_signals.png ADDED

Git LFS Details

  • SHA256: 55805ba62e5fa802d2f80334e1e1d801afe1b964abc95a56a3ce5fa578c9b246
  • Pointer size: 131 Bytes
  • Size of remote file: 132 kB
figures/05_intent_distribution_pie.png ADDED

Git LFS Details

  • SHA256: a2f57ac7d34f47e36e9112c596e6f1b88d4c64245d82dc7dbf827d589efd71b9
  • Pointer size: 131 Bytes
  • Size of remote file: 154 kB
figures/AI Guru.jpg ADDED

Git LFS Details

  • SHA256: 41d44d26de187212d5742ebe942f02906757538b1ed04e5308aefa9cab698c0c
  • Pointer size: 130 Bytes
  • Size of remote file: 38.1 kB
figures/MedKB.png ADDED

Git LFS Details

  • SHA256: 077dbed63ee7f6eb66933d9ca6b4ad2666be6454f61150c42c40e7c5259c21c0
  • Pointer size: 131 Bytes
  • Size of remote file: 306 kB
figures/records_by_year_without_books.png ADDED

Git LFS Details

  • SHA256: 19b33e3cdc492cc41bd32290af9e3891e4e1d0631cecf3009f8242017b522efd
  • Pointer size: 131 Bytes
  • Size of remote file: 113 kB
figures/tokens_by_category_without_books.png ADDED

Git LFS Details

  • SHA256: 9c475231ed1db7cff55ff35e202368dc17b451ded595258043b6c9634ef5d485
  • Pointer size: 131 Bytes
  • Size of remote file: 186 kB
links_corpus_vi_en_zh.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:87e44a792d7a99fb0fde5dff7f09f1a38a0a1fdf02ddd1ac93a005736e00b0a7
3
+ size 37689434
query.parquet ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:ce13508b893bbd6b9169679d540630bc37eb5950cad08b4d5e0e5d7063670c08
3
+ size 81826