adriens Claude Sonnet 4.6 commited on
Commit ·
85253f5
1
Parent(s): b5eb9a6
fix: recalculate all temporal columns in local NC time (UTC+11)
Browse filesday_name, hour, month, year, year_month were all UTC-based in the source.
43% of rows had wrong day_name. All derived columns now use UTC+11.
date column remains in UTC as the authoritative timestamp.
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
- README.md +10 -8
- data/test-00000-of-00001.parquet +2 -2
- data/train-00000-of-00001.parquet +2 -2
- prepare_dataset.py +10 -6
README.md
CHANGED
|
@@ -34,13 +34,15 @@ Produit par [OPT-NC](https://www.opt.nc) dans le cadre du projet **Mobitag**, in
|
|
| 34 |
|
| 35 |
| Colonne | Type | Description |
|
| 36 |
|---|---|---|
|
| 37 |
-
| `date` | timestamp | Horodatage de l'événement SMS |
|
| 38 |
| `message_length` | int32 | Longueur du message en caractères |
|
| 39 |
-
| `day_name` | string | Jour de la semaine (Monday…Sunday) |
|
| 40 |
-
| `year` | int16 | Année |
|
| 41 |
-
| `year_month` | string | Année-mois (ex : `2024-07`) |
|
| 42 |
-
| `month` | int8 | Mois (1–12) |
|
| 43 |
-
| `hour` | int8 | Heure de la journée en
|
|
|
|
|
|
|
| 44 |
|
| 45 |
## Statistiques descriptives
|
| 46 |
|
|
@@ -54,7 +56,7 @@ Produit par [OPT-NC](https://www.opt.nc) dans le cadre du projet **Mobitag**, in
|
|
| 54 |
|
| 55 |
**Activité par jour** : forte concentration en semaine (mardi–jeudi), très faible le dimanche.
|
| 56 |
|
| 57 |
-
**Heures de pointe** :
|
| 58 |
|
| 59 |
## Splits
|
| 60 |
|
|
@@ -116,7 +118,7 @@ print(ds)
|
|
| 116 |
- Les données sont **anonymisées** : aucun identifiant personnel, numéro de téléphone ou contenu de message n'est présent.
|
| 117 |
- Seules les métadonnées temporelles et la longueur des messages sont conservées.
|
| 118 |
- Collecte réalisée par OPT-NC dans le cadre d'un audit d'infrastructure télécom en Nouvelle-Calédonie.
|
| 119 |
-
-
|
| 120 |
|
| 121 |
## Citation
|
| 122 |
|
|
|
|
| 34 |
|
| 35 |
| Colonne | Type | Description |
|
| 36 |
|---|---|---|
|
| 37 |
+
| `date` | timestamp | Horodatage de l'événement SMS en **UTC** |
|
| 38 |
| `message_length` | int32 | Longueur du message en caractères |
|
| 39 |
+
| `day_name` | string | Jour de la semaine en heure locale NC — UTC+11 (Monday…Sunday) |
|
| 40 |
+
| `year` | int16 | Année en heure locale NC |
|
| 41 |
+
| `year_month` | string | Année-mois en heure locale NC (ex : `2024-07`) |
|
| 42 |
+
| `month` | int8 | Mois en heure locale NC (1–12) |
|
| 43 |
+
| `hour` | int8 | Heure de la journée en heure locale NC (0–23) |
|
| 44 |
+
|
| 45 |
+
> `date` est en UTC. Toutes les autres colonnes temporelles sont en **heure locale Nouvelle-Calédonie (UTC+11)**.
|
| 46 |
|
| 47 |
## Statistiques descriptives
|
| 48 |
|
|
|
|
| 56 |
|
| 57 |
**Activité par jour** : forte concentration en semaine (mardi–jeudi), très faible le dimanche.
|
| 58 |
|
| 59 |
+
**Heures de pointe (heure locale NC)** : 19h–21h (soirée) et 1h–2h (minuit). Activité minimale entre 8h et 17h.
|
| 60 |
|
| 61 |
## Splits
|
| 62 |
|
|
|
|
| 118 |
- Les données sont **anonymisées** : aucun identifiant personnel, numéro de téléphone ou contenu de message n'est présent.
|
| 119 |
- Seules les métadonnées temporelles et la longueur des messages sont conservées.
|
| 120 |
- Collecte réalisée par OPT-NC dans le cadre d'un audit d'infrastructure télécom en Nouvelle-Calédonie.
|
| 121 |
+
- Le champ `date` est stocké en **UTC**. Toutes les colonnes dérivées (`hour`, `day_name`, `month`, `year`, `year_month`) sont en **heure locale NC (UTC+11)**. Pour convertir `date` : `df["date"] + pd.Timedelta(hours=11)`.
|
| 122 |
|
| 123 |
## Citation
|
| 124 |
|
data/test-00000-of-00001.parquet
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:92daa6d542bc70709965851d5531798cbaa32ee6299fa2d363a118ee1766d1de
|
| 3 |
+
size 2158422
|
data/train-00000-of-00001.parquet
CHANGED
|
@@ -1,3 +1,3 @@
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
-
oid sha256:
|
| 3 |
-
size
|
|
|
|
| 1 |
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:b249e4f95cbbe2f11c8a49b0f59c063a26c78b67ef570a55573524fff12601bf
|
| 3 |
+
size 13781398
|
prepare_dataset.py
CHANGED
|
@@ -2,7 +2,7 @@
|
|
| 2 |
"""
|
| 3 |
Prépare le dataset mobitag_audit pour publication sur Hugging Face.
|
| 4 |
|
| 5 |
-
-
|
| 6 |
- Split temporel dynamique : test = les TEST_MONTHS derniers mois complets
|
| 7 |
- Compression ZSTD niveau 3
|
| 8 |
- Écrit dans data/train-*.parquet et data/test-*.parquet
|
|
@@ -16,7 +16,8 @@ import pyarrow as pa
|
|
| 16 |
import pyarrow.parquet as pq
|
| 17 |
from dateutil.relativedelta import relativedelta
|
| 18 |
|
| 19 |
-
TEST_MONTHS = 6
|
|
|
|
| 20 |
INPUT_FILE = "mobitag_audit.parquet"
|
| 21 |
OUTPUT_DIR = pathlib.Path("data")
|
| 22 |
|
|
@@ -30,10 +31,13 @@ WRITE_OPTIONS = dict(
|
|
| 30 |
|
| 31 |
|
| 32 |
def fix_types(df: pd.DataFrame) -> pd.DataFrame:
|
| 33 |
-
|
| 34 |
-
|
| 35 |
-
|
| 36 |
-
df["
|
|
|
|
|
|
|
|
|
|
| 37 |
return df
|
| 38 |
|
| 39 |
|
|
|
|
| 2 |
"""
|
| 3 |
Prépare le dataset mobitag_audit pour publication sur Hugging Face.
|
| 4 |
|
| 5 |
+
- Recalcule toutes les colonnes temporelles en heure locale NC (UTC+11)
|
| 6 |
- Split temporel dynamique : test = les TEST_MONTHS derniers mois complets
|
| 7 |
- Compression ZSTD niveau 3
|
| 8 |
- Écrit dans data/train-*.parquet et data/test-*.parquet
|
|
|
|
| 16 |
import pyarrow.parquet as pq
|
| 17 |
from dateutil.relativedelta import relativedelta
|
| 18 |
|
| 19 |
+
TEST_MONTHS = 6 # nombre de mois complets gardés pour le test
|
| 20 |
+
NC_UTC_OFFSET = 11 # Nouvelle-Calédonie UTC+11
|
| 21 |
INPUT_FILE = "mobitag_audit.parquet"
|
| 22 |
OUTPUT_DIR = pathlib.Path("data")
|
| 23 |
|
|
|
|
| 31 |
|
| 32 |
|
| 33 |
def fix_types(df: pd.DataFrame) -> pd.DataFrame:
|
| 34 |
+
# Toutes les colonnes temporelles dérivées sont recalculées en heure locale NC (UTC+11)
|
| 35 |
+
local = df["date"] + pd.Timedelta(hours=NC_UTC_OFFSET)
|
| 36 |
+
df["hour"] = local.dt.hour.astype("int8")
|
| 37 |
+
df["day_name"] = local.dt.day_name()
|
| 38 |
+
df["year"] = local.dt.year.astype("int16")
|
| 39 |
+
df["month"] = local.dt.month.astype("int8")
|
| 40 |
+
df["year_month"] = local.dt.to_period("M").astype(str)
|
| 41 |
return df
|
| 42 |
|
| 43 |
|