Datasets:
Update README.md
Browse files
README.md
CHANGED
|
@@ -2,6 +2,7 @@
|
|
| 2 |
pretty_name: Medical Query & Link Corpus
|
| 3 |
language:
|
| 4 |
- vi
|
|
|
|
| 5 |
- zh
|
| 6 |
multilinguality:
|
| 7 |
- multilingual
|
|
@@ -13,6 +14,7 @@ tags:
|
|
| 13 |
- medical
|
| 14 |
- information-retrieval
|
| 15 |
- vietnamese
|
|
|
|
| 16 |
- chinese
|
| 17 |
configs:
|
| 18 |
- config_name: query
|
|
@@ -25,17 +27,36 @@ configs:
|
|
| 25 |
path: links_corpus.parquet
|
| 26 |
---
|
| 27 |
|
| 28 |
-
<
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 29 |
|
| 30 |
## 1. 📌 Giới thiệu
|
| 31 |
|
| 32 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 33 |
|
| 34 |
### Điểm nổi bật
|
| 35 |
|
| 36 |
- 1.200 truy vấn y tế tiếng Việt.
|
| 37 |
- 4.420.561 liên kết tài liệu trong corpus.
|
| 38 |
-
- 766.441 liên kết tiếng Việt và 3.654.120 liên kết tiếng Trung.
|
| 39 |
- ID corpus liên tục từ 1 đến 4.420.561.
|
| 40 |
- Không có giá trị null trong hai bảng dữ liệu chính.
|
| 41 |
|
|
@@ -45,9 +66,7 @@ Medical Query & Link Corpus là bộ dữ liệu phục vụ xây dựng và đ
|
|
| 45 |
|
| 46 |
| Chỉ số | Giá trị |
|
| 47 |
|:--|--:|
|
| 48 |
-
|
|
| 49 |
-
| Số liên kết tiếng Việt | 766.441 |
|
| 50 |
-
| Số liên kết tiếng Trung | 3.654.120 |
|
| 51 |
| Khoảng ID | 1–4.420.561 |
|
| 52 |
|
| 53 |
### Tổng quan query
|
|
@@ -79,29 +98,45 @@ Trong biểu đồ, các intent có tỷ trọng không vượt quá 7% (`Cause`
|
|
| 79 |
|
| 80 |
### `query.parquet`
|
| 81 |
|
| 82 |
-
|
| 83 |
-
|
| 84 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 85 |
```
|
| 86 |
|
| 87 |
### `links_corpus.parquet`
|
| 88 |
|
| 89 |
-
|
| 90 |
-
|
| 91 |
-
|
| 92 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 93 |
```
|
| 94 |
|
| 95 |
## 4. 🚀 Potential Use Cases
|
| 96 |
|
| 97 |
- Đánh giá hệ thống truy hồi thông tin y tế với truy vấn tiếng Việt.
|
| 98 |
-
- Xây dựng corpus tài liệu đa ngôn ngữ Việt–Trung.
|
| 99 |
- Phân loại intent của câu hỏi y tế.
|
| 100 |
- Phân tích độ dài, cấu trúc và mức độ phức tạp của truy vấn.
|
| 101 |
- Xây dựng các tập đánh giá theo intent, độ dài hoặc đặc trưng câu hỏi.
|
| 102 |
- Huấn luyện hoặc đánh giá mô hình embedding và semantic search.
|
| 103 |
-
- Nghiên cứu
|
| 104 |
-
- Phân tích coverage của nguồn tài liệu y tế theo ngôn ngữ.
|
| 105 |
|
| 106 |
## 5. ⚡ Quickstart
|
| 107 |
|
|
@@ -118,16 +153,10 @@ print(corpus.schema)
|
|
| 118 |
print(corpus.slice(0, 5).to_pylist())
|
| 119 |
```
|
| 120 |
|
| 121 |
-
Đọc riêng corpus theo ngôn ngữ bằng `pyarrow.dataset`:
|
| 122 |
-
|
| 123 |
-
```python
|
| 124 |
-
import pyarrow.dataset as ds
|
| 125 |
-
|
| 126 |
-
corpus = ds.dataset("links_corpus.parquet", format="parquet")
|
| 127 |
-
vi_links = corpus.to_table(filter=ds.field("language") == "vi")
|
| 128 |
-
zh_links = corpus.to_table(filter=ds.field("language") == "zh")
|
| 129 |
-
```
|
| 130 |
-
|
| 131 |
## 6. 🔗 Website
|
| 132 |
|
| 133 |
-
[
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 2 |
pretty_name: Medical Query & Link Corpus
|
| 3 |
language:
|
| 4 |
- vi
|
| 5 |
+
- en
|
| 6 |
- zh
|
| 7 |
multilinguality:
|
| 8 |
- multilingual
|
|
|
|
| 14 |
- medical
|
| 15 |
- information-retrieval
|
| 16 |
- vietnamese
|
| 17 |
+
- english
|
| 18 |
- chinese
|
| 19 |
configs:
|
| 20 |
- config_name: query
|
|
|
|
| 27 |
path: links_corpus.parquet
|
| 28 |
---
|
| 29 |
|
| 30 |
+
<div align="center">
|
| 31 |
+
<p>
|
| 32 |
+
<img src="figures/MedKB.png" alt="MedKB" height="120">
|
| 33 |
+
|
| 34 |
+
<img src="figures/AI%20Guru.jpg" alt="AI Guru" height="120">
|
| 35 |
+
</p>
|
| 36 |
+
<h1>MedKB - AI Guru</h1>
|
| 37 |
+
<p>
|
| 38 |
+
<a href="https://www.facebook.com/tinix.vn/"><img src="https://img.shields.io/badge/Facebook-TiniX-1877F2?logo=facebook&logoColor=white" alt="TiniX Facebook"></a>
|
| 39 |
+
<a href="https://medkb.tinix.ai/"><img src="https://img.shields.io/badge/Website-MedKB-00A98F?logo=googlechrome&logoColor=white" alt="MedKB Website"></a>
|
| 40 |
+
<a href="https://www.facebook.com/aiguru.vn/"><img src="https://img.shields.io/badge/Facebook-AI%20Guru-1877F2?logo=facebook&logoColor=white" alt="AI Guru Facebook"></a>
|
| 41 |
+
<a href="https://leaderboard.aiguru.com.vn/"><img src="https://img.shields.io/badge/AI%20Guru-Leaderboard-F5A623?logo=googleanalytics&logoColor=white" alt="AI Guru Leaderboard"></a>
|
| 42 |
+
<a href="https://huggingface.co/tinixai"><img src="https://img.shields.io/badge/Hugging%20Face-TiniX%20AI-FFD21E?logo=huggingface&logoColor=black" alt="TiniX AI on Hugging Face"></a>
|
| 43 |
+
</p>
|
| 44 |
+
</div>
|
| 45 |
|
| 46 |
## 1. 📌 Giới thiệu
|
| 47 |
|
| 48 |
+
Tri thức y sinh hiện nay được phân bố không đồng đều giữa các ngôn ngữ. Mặc dù nguồn dữ liệu tiếng Việt ngày càng được mở rộng, nguồn này vẫn còn hạn chế về chiều sâu và tính chuyên môn. Trong khi đó, tiếng Anh và tiếng Trung sở hữu kho tài nguyên y sinh đồ sộ. Sự chênh lệch này tạo ra một **khoảng cách thông tin y tế** đáng kể, khiến người dùng tiếng Việt gặp nhiều trở ngại khi tiếp cận các bằng chứng y học được công bố bằng ngôn ngữ khác.
|
| 49 |
+
|
| 50 |
+
Xuất phát từ thực trạng đó, bài toán hướng tới xây dựng các hệ thống AI có khả năng truy hồi thông tin y sinh đa ngôn ngữ từ nguồn tiếng Việt, tiếng Anh và tiếng Trung. Với mỗi truy vấn bằng tiếng Việt, hệ thống cần xác định các tài liệu và nội dung liên quan mà không phụ thuộc vào ngôn ngữ của nguồn. Ban Tổ chức cung cấp hoặc chỉ định các nguồn dữ liệu để các đội chủ động thu thập, xử lý và xây dựng cơ sở tri thức phục vụ truy hồi.
|
| 51 |
+
|
| 52 |
+
Kết quả được đánh giá ở hai mức độ: **tài liệu (document)** và **đoạn nội dung (chunk)**. Hai mức đánh giá này phản ánh cả khả năng xác định đúng tài liệu liên quan lẫn khả năng định vị chính xác phần nội dung chứa thông tin cần tìm.
|
| 53 |
+
|
| 54 |
+
Nhiệm vụ có thể được hình thức hóa như sau: cho tập truy vấn tiếng Việt $Q = \{q_1, q_2, \ldots, q_n\}$ và tập các nguồn dữ liệu y sinh đa ngôn ngữ do Ban Tổ chức cung cấp hoặc chỉ định. Các đội tự thiết kế quy trình xây dựng cơ sở tri thức, bao gồm thu thập dữ liệu, tiền xử lý, phân đoạn, lập chỉ mục và truy xuất. Với mỗi truy vấn $q_i$, hệ thống cần tìm và xếp hạng các tài liệu hoặc đoạn nội dung liên quan từ các nguồn tiếng Việt, tiếng Anh và tiếng Trung.
|
| 55 |
|
| 56 |
### Điểm nổi bật
|
| 57 |
|
| 58 |
- 1.200 truy vấn y tế tiếng Việt.
|
| 59 |
- 4.420.561 liên kết tài liệu trong corpus.
|
|
|
|
| 60 |
- ID corpus liên tục từ 1 đến 4.420.561.
|
| 61 |
- Không có giá trị null trong hai bảng dữ liệu chính.
|
| 62 |
|
|
|
|
| 66 |
|
| 67 |
| Chỉ số | Giá trị |
|
| 68 |
|:--|--:|
|
| 69 |
+
| Tổng số liên kết | 4.420.561 |
|
|
|
|
|
|
|
| 70 |
| Khoảng ID | 1–4.420.561 |
|
| 71 |
|
| 72 |
### Tổng quan query
|
|
|
|
| 98 |
|
| 99 |
### `query.parquet`
|
| 100 |
|
| 101 |
+
| Trường | Kiểu d��� liệu | Mô tả |
|
| 102 |
+
|:--|:--|:--|
|
| 103 |
+
| `id` | `integer` | Mã định danh của truy vấn |
|
| 104 |
+
| `query` | `string` | Nội dung truy vấn y tế bằng tiếng Việt |
|
| 105 |
+
|
| 106 |
+
Ví dụ:
|
| 107 |
+
|
| 108 |
+
```json
|
| 109 |
+
{
|
| 110 |
+
"id": 1,
|
| 111 |
+
"query": "<string>"
|
| 112 |
+
}
|
| 113 |
```
|
| 114 |
|
| 115 |
### `links_corpus.parquet`
|
| 116 |
|
| 117 |
+
| Trường | Kiểu dữ liệu | Mô tả |
|
| 118 |
+
|:--|:--|:--|
|
| 119 |
+
| `id` | `integer` | Mã định danh của tài liệu trong corpus |
|
| 120 |
+
| `url` | `string` | URL của tài liệu |
|
| 121 |
+
|
| 122 |
+
Ví dụ:
|
| 123 |
+
|
| 124 |
+
```json
|
| 125 |
+
{
|
| 126 |
+
"id": 1,
|
| 127 |
+
"url": "https://example.com/article"
|
| 128 |
+
}
|
| 129 |
```
|
| 130 |
|
| 131 |
## 4. 🚀 Potential Use Cases
|
| 132 |
|
| 133 |
- Đánh giá hệ thống truy hồi thông tin y tế với truy vấn tiếng Việt.
|
| 134 |
+
- Xây dựng corpus tài liệu y sinh đa ngôn ngữ Việt–Anh–Trung.
|
| 135 |
- Phân loại intent của câu hỏi y tế.
|
| 136 |
- Phân tích độ dài, cấu trúc và mức độ phức tạp của truy vấn.
|
| 137 |
- Xây dựng các tập đánh giá theo intent, độ dài hoặc đặc trưng câu hỏi.
|
| 138 |
- Huấn luyện hoặc đánh giá mô hình embedding và semantic search.
|
| 139 |
+
- Nghiên cứu truy hồi xuyên ngôn ngữ giữa tiếng Việt, tiếng Anh và tiếng Trung.
|
|
|
|
| 140 |
|
| 141 |
## 5. ⚡ Quickstart
|
| 142 |
|
|
|
|
| 153 |
print(corpus.slice(0, 5).to_pylist())
|
| 154 |
```
|
| 155 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 156 |
## 6. 🔗 Website
|
| 157 |
|
| 158 |
+
- [TiniX trên Facebook](https://www.facebook.com/tinix.vn/)
|
| 159 |
+
- [MedKB — Medical Knowledge Base](https://medkb.tinix.ai/)
|
| 160 |
+
- [AI Guru trên Facebook](https://www.facebook.com/aiguru.vn/)
|
| 161 |
+
- [AI Guru Leaderboard](https://leaderboard.aiguru.com.vn/)
|
| 162 |
+
- [TiniX AI trên Hugging Face](https://huggingface.co/tinixai)
|