manhnt7 commited on
Commit
852e00a
·
verified ·
1 Parent(s): 6101001

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +56 -27
README.md CHANGED
@@ -2,6 +2,7 @@
2
  pretty_name: Medical Query & Link Corpus
3
  language:
4
  - vi
 
5
  - zh
6
  multilinguality:
7
  - multilingual
@@ -13,6 +14,7 @@ tags:
13
  - medical
14
  - information-retrieval
15
  - vietnamese
 
16
  - chinese
17
  configs:
18
  - config_name: query
@@ -25,17 +27,36 @@ configs:
25
  path: links_corpus.parquet
26
  ---
27
 
28
- <h1><img src="figures/MedKB.png" alt="MedKB" width="48" height="48" style="display: inline-block; vertical-align: middle; margin: 0 8px 0 0;"><img src="figures/AI%20Guru.jpg" alt="AI Guru" width="48" height="48" style="display: inline-block; vertical-align: middle; margin: 0 12px 0 0;">MedKB - AI Guru</h1>
 
 
 
 
 
 
 
 
 
 
 
 
 
 
29
 
30
  ## 1. 📌 Giới thiệu
31
 
32
- Medical Query & Link Corpus là bộ dữ liệu phục vụ xây dựng và đánh giá hệ thống truy hồi thông tin y tế. Bộ dữ liệu gồm tập truy vấn y tế tiếng Việt và kho liên kết tài liệu tiếng Việt–tiếng Trung.
 
 
 
 
 
 
33
 
34
  ### Điểm nổi bật
35
 
36
  - 1.200 truy vấn y tế tiếng Việt.
37
  - 4.420.561 liên kết tài liệu trong corpus.
38
- - 766.441 liên kết tiếng Việt và 3.654.120 liên kết tiếng Trung.
39
  - ID corpus liên tục từ 1 đến 4.420.561.
40
  - Không có giá trị null trong hai bảng dữ liệu chính.
41
 
@@ -45,9 +66,7 @@ Medical Query & Link Corpus là bộ dữ liệu phục vụ xây dựng và đ
45
 
46
  | Chỉ số | Giá trị |
47
  |:--|--:|
48
- | Số liên kết | 4.420.561 |
49
- | Số liên kết tiếng Việt | 766.441 |
50
- | Số liên kết tiếng Trung | 3.654.120 |
51
  | Khoảng ID | 1–4.420.561 |
52
 
53
  ### Tổng quan query
@@ -79,29 +98,45 @@ Trong biểu đồ, các intent có tỷ trọng không vượt quá 7% (`Cause`
79
 
80
  ### `query.parquet`
81
 
82
- ```text
83
- query_id: string not null # Mã định danh của truy vấn
84
- content: string not null # Nội dung truy vấn y tế
 
 
 
 
 
 
 
 
 
85
  ```
86
 
87
  ### `links_corpus.parquet`
88
 
89
- ```text
90
- id: int64 not null # Mã định danh liên tục trong corpus
91
- link: string not null # URL tài liệu
92
- language: string not null # Ngôn ngữ tài liệu: vi hoặc zh
 
 
 
 
 
 
 
 
93
  ```
94
 
95
  ## 4. 🚀 Potential Use Cases
96
 
97
  - Đánh giá hệ thống truy hồi thông tin y tế với truy vấn tiếng Việt.
98
- - Xây dựng corpus tài liệu đa ngôn ngữ Việt–Trung.
99
  - Phân loại intent của câu hỏi y tế.
100
  - Phân tích độ dài, cấu trúc và mức độ phức tạp của truy vấn.
101
  - Xây dựng các tập đánh giá theo intent, độ dài hoặc đặc trưng câu hỏi.
102
  - Huấn luyện hoặc đánh giá mô hình embedding và semantic search.
103
- - Nghiên cứu cross-lingual retrieval giữa tiếng Việt và tiếng Trung.
104
- - Phân tích coverage của nguồn tài liệu y tế theo ngôn ngữ.
105
 
106
  ## 5. ⚡ Quickstart
107
 
@@ -118,16 +153,10 @@ print(corpus.schema)
118
  print(corpus.slice(0, 5).to_pylist())
119
  ```
120
 
121
- Đọc riêng corpus theo ngôn ngữ bằng `pyarrow.dataset`:
122
-
123
- ```python
124
- import pyarrow.dataset as ds
125
-
126
- corpus = ds.dataset("links_corpus.parquet", format="parquet")
127
- vi_links = corpus.to_table(filter=ds.field("language") == "vi")
128
- zh_links = corpus.to_table(filter=ds.field("language") == "zh")
129
- ```
130
-
131
  ## 6. 🔗 Website
132
 
133
- [MedKB — Medical Knowledge Base](https://medkb.tinix.ai/)
 
 
 
 
 
2
  pretty_name: Medical Query & Link Corpus
3
  language:
4
  - vi
5
+ - en
6
  - zh
7
  multilinguality:
8
  - multilingual
 
14
  - medical
15
  - information-retrieval
16
  - vietnamese
17
+ - english
18
  - chinese
19
  configs:
20
  - config_name: query
 
27
  path: links_corpus.parquet
28
  ---
29
 
30
+ <div align="center">
31
+ <p>
32
+ <img src="figures/MedKB.png" alt="MedKB" height="120">
33
+ &nbsp;&nbsp;&nbsp;
34
+ <img src="figures/AI%20Guru.jpg" alt="AI Guru" height="120">
35
+ </p>
36
+ <h1>MedKB - AI Guru</h1>
37
+ <p>
38
+ <a href="https://www.facebook.com/tinix.vn/"><img src="https://img.shields.io/badge/Facebook-TiniX-1877F2?logo=facebook&logoColor=white" alt="TiniX Facebook"></a>
39
+ <a href="https://medkb.tinix.ai/"><img src="https://img.shields.io/badge/Website-MedKB-00A98F?logo=googlechrome&logoColor=white" alt="MedKB Website"></a>
40
+ <a href="https://www.facebook.com/aiguru.vn/"><img src="https://img.shields.io/badge/Facebook-AI%20Guru-1877F2?logo=facebook&logoColor=white" alt="AI Guru Facebook"></a>
41
+ <a href="https://leaderboard.aiguru.com.vn/"><img src="https://img.shields.io/badge/AI%20Guru-Leaderboard-F5A623?logo=googleanalytics&logoColor=white" alt="AI Guru Leaderboard"></a>
42
+ <a href="https://huggingface.co/tinixai"><img src="https://img.shields.io/badge/Hugging%20Face-TiniX%20AI-FFD21E?logo=huggingface&logoColor=black" alt="TiniX AI on Hugging Face"></a>
43
+ </p>
44
+ </div>
45
 
46
  ## 1. 📌 Giới thiệu
47
 
48
+ Tri thức y sinh hiện nay được phân bố không đồng đều giữa các ngôn ngữ. Mặc dù nguồn dữ liệu tiếng Việt ngày càng được mở rộng, nguồn này vẫn còn hạn chế về chiều sâu và tính chuyên môn. Trong khi đó, tiếng Anh và tiếng Trung sở hữu kho tài nguyên y sinh đồ sộ. Sự chênh lệch này tạo ra một **khoảng cách thông tin y tế** đáng kể, khiến người dùng tiếng Việt gặp nhiều trở ngại khi tiếp cận các bằng chứng y học được công bố bằng ngôn ngữ khác.
49
+
50
+ Xuất phát từ thực trạng đó, bài toán hướng tới xây dựng các hệ thống AI có khả năng truy hồi thông tin y sinh đa ngôn ngữ từ nguồn tiếng Việt, tiếng Anh và tiếng Trung. Với mỗi truy vấn bằng tiếng Việt, hệ thống cần xác định các tài liệu và nội dung liên quan mà không phụ thuộc vào ngôn ngữ của nguồn. Ban Tổ chức cung cấp hoặc chỉ định các nguồn dữ liệu để các đội chủ động thu thập, xử lý và xây dựng cơ sở tri thức phục vụ truy hồi.
51
+
52
+ Kết quả được đánh giá ở hai mức độ: **tài liệu (document)** và **đoạn nội dung (chunk)**. Hai mức đánh giá này phản ánh cả khả năng xác định đúng tài liệu liên quan lẫn khả năng định vị chính xác phần nội dung chứa thông tin cần tìm.
53
+
54
+ Nhiệm vụ có thể được hình thức hóa như sau: cho tập truy vấn tiếng Việt $Q = \{q_1, q_2, \ldots, q_n\}$ và tập các nguồn dữ liệu y sinh đa ngôn ngữ do Ban Tổ chức cung cấp hoặc chỉ định. Các đội tự thiết kế quy trình xây dựng cơ sở tri thức, bao gồm thu thập dữ liệu, tiền xử lý, phân đoạn, lập chỉ mục và truy xuất. Với mỗi truy vấn $q_i$, hệ thống cần tìm và xếp hạng các tài liệu hoặc đoạn nội dung liên quan từ các nguồn tiếng Việt, tiếng Anh và tiếng Trung.
55
 
56
  ### Điểm nổi bật
57
 
58
  - 1.200 truy vấn y tế tiếng Việt.
59
  - 4.420.561 liên kết tài liệu trong corpus.
 
60
  - ID corpus liên tục từ 1 đến 4.420.561.
61
  - Không có giá trị null trong hai bảng dữ liệu chính.
62
 
 
66
 
67
  | Chỉ số | Giá trị |
68
  |:--|--:|
69
+ | Tổng số liên kết | 4.420.561 |
 
 
70
  | Khoảng ID | 1–4.420.561 |
71
 
72
  ### Tổng quan query
 
98
 
99
  ### `query.parquet`
100
 
101
+ | Trường | Kiểu d��� liệu | Mô tả |
102
+ |:--|:--|:--|
103
+ | `id` | `integer` | Mã định danh của truy vấn |
104
+ | `query` | `string` | Nội dung truy vấn y tế bằng tiếng Việt |
105
+
106
+ Ví dụ:
107
+
108
+ ```json
109
+ {
110
+ "id": 1,
111
+ "query": "<string>"
112
+ }
113
  ```
114
 
115
  ### `links_corpus.parquet`
116
 
117
+ | Trường | Kiểu dữ liệu | Mô tả |
118
+ |:--|:--|:--|
119
+ | `id` | `integer` | Mã định danh của tài liệu trong corpus |
120
+ | `url` | `string` | URL của tài liệu |
121
+
122
+ Ví dụ:
123
+
124
+ ```json
125
+ {
126
+ "id": 1,
127
+ "url": "https://example.com/article"
128
+ }
129
  ```
130
 
131
  ## 4. 🚀 Potential Use Cases
132
 
133
  - Đánh giá hệ thống truy hồi thông tin y tế với truy vấn tiếng Việt.
134
+ - Xây dựng corpus tài liệu y sinh đa ngôn ngữ Việt–Anh–Trung.
135
  - Phân loại intent của câu hỏi y tế.
136
  - Phân tích độ dài, cấu trúc và mức độ phức tạp của truy vấn.
137
  - Xây dựng các tập đánh giá theo intent, độ dài hoặc đặc trưng câu hỏi.
138
  - Huấn luyện hoặc đánh giá mô hình embedding và semantic search.
139
+ - Nghiên cứu truy hồi xuyên ngôn ngữ giữa tiếng Việt, tiếng Anh và tiếng Trung.
 
140
 
141
  ## 5. ⚡ Quickstart
142
 
 
153
  print(corpus.slice(0, 5).to_pylist())
154
  ```
155
 
 
 
 
 
 
 
 
 
 
 
156
  ## 6. 🔗 Website
157
 
158
+ - [TiniX trên Facebook](https://www.facebook.com/tinix.vn/)
159
+ - [MedKB — Medical Knowledge Base](https://medkb.tinix.ai/)
160
+ - [AI Guru trên Facebook](https://www.facebook.com/aiguru.vn/)
161
+ - [AI Guru Leaderboard](https://leaderboard.aiguru.com.vn/)
162
+ - [TiniX AI trên Hugging Face](https://huggingface.co/tinixai)