adriens Claude Sonnet 4.6 commited on
Commit
85253f5
·
1 Parent(s): b5eb9a6

fix: recalculate all temporal columns in local NC time (UTC+11)

Browse files

day_name, hour, month, year, year_month were all UTC-based in the source.
43% of rows had wrong day_name. All derived columns now use UTC+11.
date column remains in UTC as the authoritative timestamp.

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>

README.md CHANGED
@@ -34,13 +34,15 @@ Produit par [OPT-NC](https://www.opt.nc) dans le cadre du projet **Mobitag**, in
34
 
35
  | Colonne | Type | Description |
36
  |---|---|---|
37
- | `date` | timestamp | Horodatage de l'événement SMS |
38
  | `message_length` | int32 | Longueur du message en caractères |
39
- | `day_name` | string | Jour de la semaine (Monday…Sunday) |
40
- | `year` | int16 | Année |
41
- | `year_month` | string | Année-mois (ex : `2024-07`) |
42
- | `month` | int8 | Mois (1–12) |
43
- | `hour` | int8 | Heure de la journée en UTC (0–23) |
 
 
44
 
45
  ## Statistiques descriptives
46
 
@@ -54,7 +56,7 @@ Produit par [OPT-NC](https://www.opt.nc) dans le cadre du projet **Mobitag**, in
54
 
55
  **Activité par jour** : forte concentration en semaine (mardi–jeudi), très faible le dimanche.
56
 
57
- **Heures de pointe** : 8h–11h (heures ouvrées matinales).
58
 
59
  ## Splits
60
 
@@ -116,7 +118,7 @@ print(ds)
116
  - Les données sont **anonymisées** : aucun identifiant personnel, numéro de téléphone ou contenu de message n'est présent.
117
  - Seules les métadonnées temporelles et la longueur des messages sont conservées.
118
  - Collecte réalisée par OPT-NC dans le cadre d'un audit d'infrastructure télécom en Nouvelle-Calédonie.
119
- - Les timestamps sont en **UTC**. Pour obtenir l'heure locale (Nouvelle-Calédonie, UTC+11) : `df["date"] + pd.Timedelta(hours=11)`.
120
 
121
  ## Citation
122
 
 
34
 
35
  | Colonne | Type | Description |
36
  |---|---|---|
37
+ | `date` | timestamp | Horodatage de l'événement SMS en **UTC** |
38
  | `message_length` | int32 | Longueur du message en caractères |
39
+ | `day_name` | string | Jour de la semaine en heure locale NC — UTC+11 (Monday…Sunday) |
40
+ | `year` | int16 | Année en heure locale NC |
41
+ | `year_month` | string | Année-mois en heure locale NC (ex : `2024-07`) |
42
+ | `month` | int8 | Mois en heure locale NC (1–12) |
43
+ | `hour` | int8 | Heure de la journée en heure locale NC (0–23) |
44
+
45
+ > `date` est en UTC. Toutes les autres colonnes temporelles sont en **heure locale Nouvelle-Calédonie (UTC+11)**.
46
 
47
  ## Statistiques descriptives
48
 
 
56
 
57
  **Activité par jour** : forte concentration en semaine (mardi–jeudi), très faible le dimanche.
58
 
59
+ **Heures de pointe (heure locale NC)** : 19h–21h (soirée) et 1h–2h (minuit). Activité minimale entre 8h et 17h.
60
 
61
  ## Splits
62
 
 
118
  - Les données sont **anonymisées** : aucun identifiant personnel, numéro de téléphone ou contenu de message n'est présent.
119
  - Seules les métadonnées temporelles et la longueur des messages sont conservées.
120
  - Collecte réalisée par OPT-NC dans le cadre d'un audit d'infrastructure télécom en Nouvelle-Calédonie.
121
+ - Le champ `date` est stocké en **UTC**. Toutes les colonnes dérivées (`hour`, `day_name`, `month`, `year`, `year_month`) sont en **heure locale NC (UTC+11)**. Pour convertir `date` : `df["date"] + pd.Timedelta(hours=11)`.
122
 
123
  ## Citation
124
 
data/test-00000-of-00001.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:bf5a0a040cd65b6324167446adf8120e700267609aa1aa4d835d9105cd2e2359
3
- size 2158370
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:92daa6d542bc70709965851d5531798cbaa32ee6299fa2d363a118ee1766d1de
3
+ size 2158422
data/train-00000-of-00001.parquet CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:50a3b26c049413f03ed8bfbc8af66ede13cee9b1103642e2472b9d66e57230b0
3
- size 13781990
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:b249e4f95cbbe2f11c8a49b0f59c063a26c78b67ef570a55573524fff12601bf
3
+ size 13781398
prepare_dataset.py CHANGED
@@ -2,7 +2,7 @@
2
  """
3
  Prépare le dataset mobitag_audit pour publication sur Hugging Face.
4
 
5
- - Corrige les types de colonnes
6
  - Split temporel dynamique : test = les TEST_MONTHS derniers mois complets
7
  - Compression ZSTD niveau 3
8
  - Écrit dans data/train-*.parquet et data/test-*.parquet
@@ -16,7 +16,8 @@ import pyarrow as pa
16
  import pyarrow.parquet as pq
17
  from dateutil.relativedelta import relativedelta
18
 
19
- TEST_MONTHS = 6 # nombre de mois complets gardés pour le test
 
20
  INPUT_FILE = "mobitag_audit.parquet"
21
  OUTPUT_DIR = pathlib.Path("data")
22
 
@@ -30,10 +31,13 @@ WRITE_OPTIONS = dict(
30
 
31
 
32
  def fix_types(df: pd.DataFrame) -> pd.DataFrame:
33
- df["year"] = df["year"].astype("int16")
34
- df["month"] = df["month"].astype("int8")
35
- # Recalcule hour depuis date (0-23) — la source stocke date.hour % 12, ce qui est ambiguë
36
- df["hour"] = df["date"].dt.hour.astype("int8")
 
 
 
37
  return df
38
 
39
 
 
2
  """
3
  Prépare le dataset mobitag_audit pour publication sur Hugging Face.
4
 
5
+ - Recalcule toutes les colonnes temporelles en heure locale NC (UTC+11)
6
  - Split temporel dynamique : test = les TEST_MONTHS derniers mois complets
7
  - Compression ZSTD niveau 3
8
  - Écrit dans data/train-*.parquet et data/test-*.parquet
 
16
  import pyarrow.parquet as pq
17
  from dateutil.relativedelta import relativedelta
18
 
19
+ TEST_MONTHS = 6 # nombre de mois complets gardés pour le test
20
+ NC_UTC_OFFSET = 11 # Nouvelle-Calédonie UTC+11
21
  INPUT_FILE = "mobitag_audit.parquet"
22
  OUTPUT_DIR = pathlib.Path("data")
23
 
 
31
 
32
 
33
  def fix_types(df: pd.DataFrame) -> pd.DataFrame:
34
+ # Toutes les colonnes temporelles dérivées sont recalculées en heure locale NC (UTC+11)
35
+ local = df["date"] + pd.Timedelta(hours=NC_UTC_OFFSET)
36
+ df["hour"] = local.dt.hour.astype("int8")
37
+ df["day_name"] = local.dt.day_name()
38
+ df["year"] = local.dt.year.astype("int16")
39
+ df["month"] = local.dt.month.astype("int8")
40
+ df["year_month"] = local.dt.to_period("M").astype(str)
41
  return df
42
 
43