Haviet2003/VN_Air_Quality_Test

Dataset Card: Vietnam Air Quality & Meteorological LLM Forecast Dataset (VN-AirLLM-41K)

1. Tổng quan Bộ Dữ liệu (Dataset Summary)

VN-AirLLM-41K là bộ dữ liệu chuyên ngành môi trường và khí tượng tại Việt Nam, được chuẩn hóa và cấu trúc hóa dành riêng cho bài toán tinh chỉnh mô hình ngôn ngữ lớn (LLM Fine-tuning / Instruction Tuning) nhằm dự báo chất lượng không khí, phân tích tương quan khí tượng - sol khí, và tự động lập báo cáo cảnh báo sức khỏe cộng đồng.

Bộ dữ liệu kết hợp từ 2 nguồn quan trắc thực nghiệm:

1. Hanoi Air Quality (PM2.5) + Weather Data (2024–2026): Dữ liệu quan trắc độ phân giải cao kết hợp thông số khí tượng (nhiệt độ, độ ẩm, tốc độ gió, áp suất).
2. Global Urban Air Quality Index Dataset (2015–2025): Dữ liệu lịch sử quan trắc đa đô thị trên toàn quốc.

Thông tin then chốt:

• Ngôn ngữ: Tiếng Việt (Monolingual Vietnamese).
• Quy mô bảng dữ liệu sạch (clean_data.csv): 41.910 dòng quan trắc x 31 trường thuộc tính đã gán nhãn chuyên sâu (lưu mã Unicode UTF-8 BOM utf-8-sig).
• Quy mô tập hội thoại Finetuning (train.jsonl & val.jsonl): 41.360 cặp hội thoại chuẩn ShareGPT format (75% Train: 30.855 mẫu; 25% Val: 10.505 mẫu).
• Phạm vi không gian: 55 trạm quan trắc đại diện cho 8 phân vùng sinh thái đô thị/công nghiệp trên toàn lãnh thổ Việt Nam.
• Phạm vi thời gian: Từ tháng 02/2024 đến tháng 02/2026 (2 năm liên tục).
• Quy chuẩn đối sánh: Quy chuẩn kỹ thuật quốc gia về chất lượng không khí QCVN 05:2023/BTNMT và công thức tính chỉ số chất lượng không khí Việt Nam VN-AQI theo Quyết định 1459/QĐ-TCMT.

---

2. Cấu trúc Bộ Dữ liệu (Dataset Structure)

2.1. Tập dữ liệu bảng đã làm sạch & gán nhãn (clean_data.csv)

File dữ liệu dạng bảng phẳng gồm 31 cột, được phân thành 5 nhóm thuộc tính nghiệp vụ:

Nhóm	Tên cột	Kiểu dữ liệu	Diễn giải & Đơn vị
Định danh & Chu kỳ	thoi_gian	Date/String	Thời điểm quan trắc (YYYY-MM-DD)
	tram_quan_trac	String	Tên trạm quan trắc (55 trạm toàn quốc)
	vung_mien	String	Đặc trưng phân vùng: Khu Công Nghiệp, Đô thị Trung tâm, Ven Biển - Đô Thị, Đô thị Dân cư, Đô thị Giao thông, Ngoại thành, Ven Biển - Du Lịch, Cao Nguyên Nghỉ Dưỡng
	chu_ky	String	Chu kỳ tổng hợp: Ngay (35.255 mẫu), Tuan (5.335 mẫu), Thang (1.320 mẫu)
Nồng độ & Khí tượng	pm25	Float	Nồng độ bụi mịn PM2.5 trung bình kỳ quan trắc (µg/m³)
	pm10	Float	Nồng độ bụi thô PM10 trung bình kỳ quan trắc (µg/m³)
	no2	Float	Nồng độ khí NO2 (µg/m³)
	co	Float	Nồng độ khí CO (mg/m³)
	nhiet_do	Float	Nhiệt độ môi trường (°C)
	do_am	Float	Độ ẩm tương đối (%)
	toc_do_gio	Float	Tốc độ gió tầng bề mặt (m/s)
	ap_suat	Float	Áp suất khí quyển (hPa)
Đặc trưng Khí tượng vật lý	wind_u, wind_v	Float	Thành phần véc-tơ gió phân rã phương Đông-Tây & Bắc-Nam (m/s)
	pressure_diff	Float	Chênh lệch áp suất so với chu kỳ trước (hPa)
	pm25_volatility	Float	Độ biến động rolling standard deviation của PM2.5
	gio_lang_tich_tu	Integer	Cờ nhị phân (1/0): Gió lặng ($< 1.5$ m/s) gây tích tụ sol khí
	co_nghich_nhiet	Integer	Cờ nhị phân (1/0): Dấu hiệu nghịch nhiệt bức xạ tầng mặt
Chỉ số VN-AQI & Sức khỏe	vn_aqi	Integer	Chỉ số chất lượng không khí Việt Nam (0 – 500)
	nhan_aqi	String	Phân cấp: Tốt (16.250), Trung bình (18.916), Kém (5.583), Xấu (1.161)
	ma_aqi	Integer	Mã số phân cấp AQI (1 đến 4)
	mau_canh_bao	String	Màu quy ước QCVN: Xanh lá, Vàng, Cam, Đỏ
	nhan_suc_khoe	String	Cảnh báo tác động sức khỏe cho cộng đồng và nhóm nhạy cảm
	khuyen_nghi_khau_trang	String	Chỉ dẫn phòng hộ y tế (Khẩu trang N95, hạn chế hoạt động ngoài trời,...)
	vuot_chuan_qcvn	Integer	Cờ nhị phân: Vượt ngưỡng quy chuẩn QCVN 05:2023 24h ($> 50$ µg/m³)
Mục tiêu Dự báo (Targets)	pm25_target_t1	Float	Nồng độ PM2.5 thực tế ở kỳ tiếp theo ($t+1$) (µg/m³)
	pm10_target_t1	Float	Nồng độ PM10 thực tế ở kỳ tiếp theo ($t+1$) (µg/m³)
	delta_pm25_t1	Float	Biến thiên nồng độ $\Delta = PM2.5_{t+1} - PM2.5_t$
	nhan_xu_huong_3lop	String	Nhãn xu hướng 3 lớp: Tăng (12.660), Giảm (11.832), Đi ngang (17.253)
	nhan_xu_huong_5lop	String	Nhãn xu hướng 5 lớp: Tăng mạnh, Tăng, Đi ngang, Giảm, Giảm mạnh
	ma_xu_huong_t1	Integer	Mã số xu hướng ($-1$: Giảm, $0$: Đi ngang, $1$: Tăng)

---

2.2. Tập dữ liệu Finetuning ShareGPT (train.jsonl & val.jsonl)

Mỗi bản ghi được đóng gói dưới định dạng JSON đa lượt thoại (conversations), tối ưu hóa cho các framework huấn luyện hiện đại như LLaMA-Factory, Unsloth, Axolotl và Hugging Face TRL:

{
  "conversations": [
    {
      "from": "human",
      "value": "Hãy lập báo cáo cảnh báo chất lượng không khí theo chu kỳ Ngay từ dữ liệu quan trắc sau:\n- Trạm quan trắc: An Giang - Long Xuyên\n- Thời gian ghi nhận: 2025-06-30\n- Chuỗi số liệu quan trắc:\n  + 2025-06-28: PM2.5 = 14.9 µg/m³, PM10 = 18.5 µg/m³, Nhiệt độ = 27.4°C, Độ ẩm = 87.8%\n  + 2025-06-29: PM2.5 = 16.0 µg/m³, PM10 = 19.6 µg/m³, Nhiệt độ = 27.4°C, Độ ẩm = 84.7%\n  + 2025-06-30: PM2.5 = 15.1 µg/m³, PM10 = 19.2 µg/m³, Nhiệt độ = 27.5°C, Độ ẩm = 88.7%"
    },
    {
      "from": "gpt",
      "value": "Dưới đây là báo cáo cảnh báo chất lượng không khí chi tiết cho trạm **An Giang - Long Xuyên**:\n\n**1. Thông số ghi nhận (Ngay - 2025-06-30):**\n- **Trạm quan trắc:** An Giang - Long Xuyên\n- **Thời gian ghi nhận (kèm chu kỳ):** 2025-06-30 (Chu kỳ Ngay)\n- **Chỉ số VN-AQI:** 30\n- **Nồng độ PM2.5:** 15.1 µg/m³\n- **Nồng độ PM10:** 19.2 µg/m³\n- **Nhiệt độ trung bình:** 27.5°C\n- **Độ ẩm trung bình:** 88.7%\n\n**2. Cảnh báo ô nhiễm:**\n- Mức Tốt (Màu Xanh lá) theo quy chuẩn QCVN 05:2023/BTNMT.\n- So với kỳ trước, nồng độ PM2.5 biến động nhẹ (-0.9 µg/m³). Không khí duy trì trong lành.\n\n**3. Cảnh báo tác động sức khỏe:**\n- Chất lượng không khí tốt, không ảnh hưởng tới sức khỏe cộng đồng. Khuyến khích tham gia các hoạt động thể chất ngoài trời.\n\n**4. Cảnh báo xu hướng ngày sau:**\n- **Dự báo xu hướng:** Nồng độ bụi mịn có xu hướng **Đi ngang**, dự kiến PM2.5 dao động trong khoảng **14.3 – 15.9 µg/m³** (PM10 khoảng **18.2 – 20.2 µg/m³**).\n- **Nhận định khí tượng:** Nhiệt độ 27.5°C và độ ẩm cao (88.7%) tạo điều kiện đối lưu ổn định, không ghi nhận yếu tố gây tích tụ ô nhiễm cục bộ."
    }
  ]
}

9 Trường thông tin chuẩn bắt buộc trong đầu ra:

1. Trạm quan trắc (Tên trạm xác thực)
2. Thời gian ghi nhận (Kèm chu kỳ: Ngày/Tuần/Tháng)
3. Chỉ số VN-AQI (Tính toán nội suy chính xác)
4. Nồng độ PM2.5 (Giá trị hiện tại kèm đơn vị µg/m³)
5. Nồng độ PM10 (Giá trị hiện tại kèm đơn vị µg/m³)
6. Nhiệt độ & Độ ẩm (Thông số vi khí hậu liên đới)
7. Phân cấp ô nhiễm theo QCVN 05:2023 (Kèm màu quy ước)
8. Khuyến nghị tác động sức khỏe & bảo hộ y tế (Nhóm nhạy cảm & cộng đồng)
9. Dự báo xu hướng & Khoảng định lượng số cho kỳ tới (Trend + Khoảng giá trị $[X – Y]$ µg/m³)

---

3. Quy trình Xây dựng & Gán nhãn (Dataset Creation & Labeling)

flowchart LR
    A["Raw Data (Hà Nội + Toàn quốc)"] --> B["Tiền xử lý & Nội suy chuỗi thời gian"]
    B --> C["Kỹ nghệ đặc trưng khí tượng vật lý"]
    C --> D["Tính VN-AQI & Gán nhãn QCVN 05:2023"]
    D --> E["Tạo nhãn xu hướng & Target t+1"]
    E --> F["clean_data.csv (41.910 dòng x 31 cột)"]
    F --> G["Chuyển đổi ShareGPT đa lượt thoại"]
    G --> H["train.jsonl (30.855 mẫu)"]
    G --> I["val.jsonl (10.505 mẫu)"]

1. Làm sạch & Kiểm tra ngoại lai (Outliers):
   • Loại bỏ các điểm lỗi cảm biến (PM2.5 âm, nồng độ $> 1000$ µg/m³).
   • Nội suy tuyến tính cục bộ các điểm thiếu rời rạc không vượt quá 2 chu kỳ liên tiếp.
2. Kỹ nghệ đặc trưng khí tượng (Meteorological Engineering):
   • Phân rã véc-tơ gió: $u = -v_{wind} \cdot \sin(\theta \cdot \frac{\pi}{180})$, $v = -v_{wind} \cdot \cos(\theta \cdot \frac{\pi}{180})$.
   • Biến chỉ thị gió lặng tích tụ ($v_{wind} < 1.5$ m/s) và proxy nghịch nhiệt bức xạ ban đêm khi độ ẩm cao kết hợp chênh áp dương.
3. Tính toán VN-AQI chuẩn nghiệp vụ:
   • Áp dụng công thức nội suy phân đoạn từng khoảng nồng độ theo tài liệu kỹ thuật số 1459/QĐ-TCMT.
4. Phân loại nhãn xu hướng khách quan:
   • Ngưỡng biến thiên: $|\Delta PM2.5| \le 2.0$ µg/m³ $\rightarrow$ Đi ngang; $\Delta > 2.0 \rightarrow$ Tăng; $\Delta < -2.0 \rightarrow$ Giảm.

---

4. Đánh giá Baseline mô hình Chưa Huấn Luyện (Pre-training Evaluation)

Đợt thử nghiệm thực tế ngày 17/10/2026 trên 50 mẫu tập val.jsonl sử dụng mô hình nguyên bản llama3.1:latest (Zero-shot) qua máy chủ Ollama:

Tiêu chí Kiểm định	Mô hình Base (Chưa Train)	Mục tiêu sau khi Fine-tune
Tỷ lệ tuân thủ 9 trường chuẩn	0.00% (1.84/9 trường)	$\ge 98.00%$
Độ chính xác xu hướng (Accuracy)	46.00%	$\ge 88.00%$
Macro F1-Score	44.39%	$\ge 85.00%$
Tỷ lệ sinh khoảng số định lượng kỳ sau	0 / 50 mẫu (0%)	$\ge 95.00%$
Sai số MAE PM2.5	N/A (không xuất số)	$\le 3.50$ µg/m³

Kết luận Baseline: Mô hình Llama 3.1 Base gặp lỗi hệ thống: tự vẽ bảng sao chép đề bài, giải thích lý thuyết chung chung, không tính được VN-AQI, không biết quy chuẩn QCVN 05:2023, nhầm lẫn 55% ca Đi ngang thành báo động giả và hoàn toàn không sinh số dự báo. Điều này khẳng định bắt buộc phải tinh chỉnh mô hình bằng bộ dữ liệu VN-AirLLM-41K.

---

5. Mục đích Sử dụng & Khuyến cáo (Intended Uses & Limitations)

5.1. Mục đích sử dụng phù hợp:

• Tinh chỉnh các mô hình mã nguồn mở (Llama 3.1/3.2, Qwen 2.5, Gemma 2/3, Mistral) bằng QLoRA/LoRA.
• Xây dựng hệ thống tự động lập báo cáo và cảnh báo ô nhiễm không khí tại các trung tâm quan trắc môi trường.
• Chatbot trợ lý môi trường cung cấp khuyến cáo sức khỏe chính xác theo luật Việt Nam.

5.2. Giới hạn & Cảnh báo sử dụng:

• Dữ liệu phản ánh quy luật trễ khí tượng tầng mặt tại Việt Nam, không nên ngoại suy cho các vùng khí hậu cận cực hoặc sa mạc mà không hiệu chỉnh.
• Đầu ra của mô hình mang tính chất tham khảo dự báo hỗ trợ ra quyết định, không thay thế hoàn toàn mạng lưới trạm đo chuẩn quốc gia trong các sự cố rò rỉ hóa chất khẩn cấp.

---

6. Hướng dẫn Sử dụng (How to Use)

Tải dữ liệu dạng bảng với Pandas:

import pandas as pd

# Đọc file clean_data với encoding utf-8-sig
df = pd.read_csv('air-quality-llm-forecast/data/processed/clean_data.csv', encoding='utf-8-sig')
print(f"Tổng số bản ghi: {len(df)}, số cột: {len(df.columns)}")
print(df[['thoi_gian', 'tram_quan_trac', 'vn_aqi', 'nhan_aqi', 'nhan_xu_huong_3lop']].head())

Sử dụng với Hugging Face datasets:

from datasets import load_dataset

# Nạp tập huấn luyện ShareGPT
dataset = load_dataset('json', data_files={
    'train': 'air-quality-llm-forecast/data/jsonl/train.jsonl',
    'validation': 'air-quality-llm-forecast/data/jsonl/val.jsonl'
})

print(dataset['train'][0])

---

7. Giấy phép & Trích dẫn (Licensing & Citation)

Bộ dữ liệu được phát hành dưới giấy phép mã nguồn mở MIT License. Bạn được tự do sử dụng cho mục đích nghiên cứu, học thuật và thương mại hóa.

@dataset{vietnam_air_quality_llm_forecast_2026,
  author       = {Data Science & Environmental AI Team},
  title        = {Vietnam Air Quality & Meteorological LLM Forecast Dataset (VN-AirLLM-41K)},
  year         = {2026},
  publisher    = {Antigravity Research},
  version      = {1.0.0},
  url          = {https://github.com/air-quality-llm-forecast}
}